Amazon Bedrock 已经成为客户使用基础模型构建和扩展生成式 AI 应用程序的最简单方法,降低了所有开发者的使用门槛。这种优势正在不同行业、不同场景上体现出来。
案例一:桥水基金的投资逻辑优化
全球最大的对冲基金桥水基金(Bridgewater Associates)很早就开始涉足生成式 AI 应用。桥水基金长达 50 年的全球市场投资经验,使其深入理解了市场运作的核心驱动因素,并将这些知识编写成复杂的专家系统,通过每天接收并处理大量外部数据,生成市场观点。随着 AI 技术的日益成熟,桥水基金意识到,通过 AI 和机器学习可以进一步优化这一过程。
在构建 AI 投资助手的过程中,Amazon Bedrock 成为了一个至关重要的工具。通过 Amazon Bedrock 中不同模型的分析特性,灵活调用,以适应从基础的推理任务到更高阶的市场分析等不同场景。今年 7 月,桥水基金做出了新的尝试,发行了一支完全由 AI 操盘的规模 20 亿美金的基金。
案例二:Poly AI 的语音客服定制
智能语音助手服务商 Poly AI,主要服务各行各业的企业客服中心,包括旅游、住宿、零售、金融服务等。Poly AI 的 AI 语音客服可以解答账户管理问题、安排交货、零售比价等。
Poly AI 的 AI 语音客服可以模仿人工客服人员,有助于减少用户等待时间并提高用户满意度和保留率,并针对不同企业客户的行业属性和场景需求进行个性化定制。这种定制不仅体现在语音助手的内容上,更深入到语调、语速等细节,根据目标群体的特性调整交流方式、专业表述的程度、热情程度、关切程度等,比如在针对老年群体或教育的场景会调整语气、语调、语速、音色,确保客户体验的最佳化。
Poly AI 还在基于 Amazon SageMaker 平台进行大规模语音克隆和合成算法的训练。这个过程中,Poly AI 为企业构建的解决方案可以将企业品牌个性融入其中,更有识别度,使语音助手不仅仅是一个工具。
今年 8 月,Poly AI 宣布与亚马逊云科技达成战略合作协议,增强了 Poly AI 在大模型和生成式 AI 上的应用深度。
案例三:NinjaTech AI 的算力成本控制
初创公司 NinjaTech AI 是一家智能体(Agent)系统开发商。该公司面临的现实挑战之一是算力问题。由于英伟达 H100 的高成本和短缺,NinjaTech AI 选择了亚马逊云科技自研的两款 AI 芯片——Trainium 和 Inferentia。经过双方努力和协作,NinjaTech AI 目前基于亚马逊自研芯片成功训练 AI 模型,并构建 AI 智能体。与传统 GPU 解决方案相比,NinjaTech 在使用 Trainium 和 Inferentia 时,成本节约达 82%-89%。这一显著的成本优势使得他们能够以更具竞争力的价格为客户提供高效、经济实惠的 AI 服务。
除了芯片,NinjaTech 还利用 Amazon SageMaker 进行生成式 AI 模型的微调和优化。在复杂的 AI 模型训练中,NinjaTech 需要处理不同的上下文、内存管理、数据存储等挑战,而 SageMaker 的按需服务模式,使其能够快速进行实验、训练,并在不浪费资源的前提下高效部署 AI 应用。
案例四:Goodnotes 的文档处理增强
作为一款生产力工具,Goodnotes 通过生成式 AI 应用提高用户在电子文档处理和学习过程中的体验。基于 Amazon Bedrock,Goodnotes 将生成式 AI 服务无缝集成进现有产品,包括手写笔记识别、自然语言与笔记互动、文档分析助手等功能。为了确保用户数据隐私及教育合规,Goodnotes 利用 Guardrails 功能确保安全性与合规性,防止用户恶意使用 AI 生成有害内容。
企业落地大模型的关键维度
不难看出,每家企业构建生成式 AI 应用推动业务创新,对于模型或工具平台的选择,往往会从可靠性、经济性、准确性等维度入手。与此同时,大模型仍在快速升级,不断进行算法优化、参数扩增。通过 Amazon Bedrock,让各种技能水平的开发人员和各种规模的组织都有机会使用生成式 AI 进行创新,新的浪潮正加速到来。
1. 模型选择的多元化策略
单一模型无法覆盖所有业务场景。企业应建立多模型评估机制,根据具体任务(如文本生成、代码编写、图像理解)选择最优模型。利用平台提供的 API 网关,可以轻松实现模型间的动态切换和负载均衡,避免被单一供应商锁定。