智东西
作者 ZeR0
编辑 漠影
7月8日,智东西报道,19日,亚马逊云科技中国峰会期间,全球技术总经理Shaown Nandi进行了主题演讲,他在演讲中透露了亚马逊云科技在云计算和人工智能领域的最新技术见解与进展。会议结束后,Shaown Nandi接受了包括智东西在内的多家媒体的采访。在采访中,他透露,亚马逊云科技的Amazon Bedrock平台在构建AI agent方面,为用户提供了更丰富的模型选项以及更为便捷的模型切换功能。通过使用Amazon Guardrails,用户在更换模型或升级模型版本时,可以避免重新构建安全防护策略,从而简化了操作流程。此外,用户还可以通过模型蒸馏、提示词路由等机制优化成本。
各个模型一般都配备有专属的API接口,但Amazon Bedrock则提供了一致的API接入点,能够兼容所有模型。这表明,即便在将来模型发生更替,只要用户最初接入的是Amazon Bedrock的API,他们无需调整调用方法,并且能够在该平台上自由选择接入任何可用的模型。
在AI基础设施的投入与短期收益的权衡上,Shaown Nandi指出,亚马逊坚持长远发展理念,专注于协助客户达成长期愿景。不久前,亚马逊更是大幅下调了GPU的价格,以此减轻客户的负担。芯片制造商的技术进步、模型自身的优化,以及亚马逊云科技在模型压缩、自动提示语路由等方面的技术突破,以及对GPU能耗的优化,共同推动了推理成本的降低。
AI技术的进步犹如浩瀚大海中巨浪的形成过程:原本看似宁静的波纹,在特定环境下亦能演变成高达三十米的汹涌巨浪。生成式AI与Agentic AI亦是从局部的突破逐渐壮大,如今已成为席卷全球的超级潮流。这一变革主要得益于模型的不懈创新、海量数据的支持以及强大计算力的结合。企业逐步从谨慎的尝试阶段过渡到全面应用阶段,与此同时,亚马逊云科技等行业的领军企业不断在模型性能、精确度、成本效益以及安全保障等方面进行革新,这股人工智能的巨大浪潮正对全球各行各业进行着深刻的重塑。”Shaown Nandi在演讲中如此说道。
在会后与媒体的交流中,Shaown Nandi补充道,Agentic AI与生成式AI已经为众多企业带来了显著的实际效益。借助亚马逊云科技的服务,这些企业得以更高效地运用自己的数据资源、执行力和计算实力,开发出解决方案,克服了诸多业务挑战。
谈及过去一两年间亚马逊云科技在AI agent领域的增长态势,他表示,客户在运用和构建AI agent的过程中,会产生大量数据需求,而云存储成为了一种更优的解决方案。客户对于亚马逊云科技提供的迁移数据服务表示出高度兴奋。随着AI agent技术的不断进步,与云计算相关的应用活动也在持续增长。值得注意的是,在财富500强企业中,仍有75%的工作负载停留在本地。展望未来,迁移的潜力巨大,AI agent的发展前景十分光明。
亚马逊云科技平台汇聚了众多优秀的用户案例及适用场景,例如在客户服务领域,Agentic AI被旅行公司一线客服人员运用,能更迅速、更精确地应对客户需求,并融入情绪识别与即时翻译功能;在软件工程领域,应用增长势头迅猛,不仅亚马逊云科技自身,众多初创企业亦在Amazon Bedrock上成功搭建了高效的AI代理。
在协助客户将人工智能代理应用于实际场景的过程中,亚马逊云科技展现出多方面的显著优势,诸如提供丰富的模型选项、有效应对同质化的体力劳动、帮助客户在构建人工智能代理时实现模型的快速调整与替换,并且具备强大的基础设施和自主研发的芯片等,从而为客户带来更加灵活、稳定且高效的解决方案。
在观察客户使用调用模型的情况时,Shaown Nandi发现,模型的使用正呈现出多样化的趋势,专业性强、用途明确且功能卓越的模型接连涌现,应用领域也在不断扩大,用户在模型选择上的多元化程度也在持续增加。
Shaown Nandi通过实例阐述了构建生成式人工智能应用的方法,并指出在使用Amazon Bedrock时,应综合考虑模型挑选、经济投入、数据隐私以及安全防护等多重因素。在应用开发领域,Amazon Transform能够协助用户将旧有应用顺利迁移至亚马逊云平台,助力其实现技术升级。在Agent构建领域,亚马逊云科技推出了Amazon Bedrock、Strands Agents等实用工具。在基础设施领域,亚马逊云科技在全球范围内构建的多个区域及专用区域网络,不仅基于与英伟达长达14年的云服务合作,还拥有Amazon Trainium、Amazon Graviton等自主研发的芯片,同时提供S3 Tables、元数据存储等高效存储解决方案。
在他眼中,MCP堪称AI agent的强力钥匙与解码工具,犹如通用的USB-C接口,使得AI agent能够更轻松地获取服务和数据,从而实现更加自主、智能和自动化的操作。其应用前景十分宽广,已有众多客户以及亚马逊云科技本身都在积极采用。
Shaown Nandi提到,无论是哪种类型的AI代理,都能由合作伙伴或生态系统共同打造。亚马逊云科技所开发的专属代理,往往集中在自身擅长或客户需求的领域,致力于填补市场空白,旨在为市场提供更多选择。亚马逊云科技非常看重与合作伙伴的协作,致力于提供底层技术支持,助力他们开发出各类应用。
在讨论企业级市场与C端市场在AI agent设计上的差异时,他提出,企业级应用在开发初期就必须优先考虑其安全性和稳定性,随后才是功能的实现。相较之下,C端应用在初期则更侧重于功能的开发。这两者在关注点上存在显著差异。企业客户对亚马逊云科技服务的稳定性、安全性和可控性尤为看重。在运用生成式AI的过程中,数据的利用和存储显得尤为关键,而在产品设计阶段,已经采取了众多措施来确保信息的安全。
在开源领域,Shaown Nandi坚定地表示,亚马逊云科技始终积极倡导并支持开源理念,Strands Agents便是其开源工具的典范。他坚信,专有与开源模式并行不悖,将为用户带来更丰富的选择,同时也有助于全球开发者更有效地回馈社会,实现共同进步。