大模型落地：追求极致的务实主义

一位中国企业 CIO 表达了一个观点，就目前企业对生成式 AI 的尝试，还需要时间持续解决。他的建议是，一是低成本试错的能力，如果成本太高就等不到场景跑出来；二是长期系统性的思考能力，一定要把技术结合到业务流程和场景中。

亚马逊云科技大中华区产品总经理陈晓建近期就生成式 AI 价值化分享表示，企业应该将注意力集中在少数的几个能实现业务价值的 Use Case（用例）上，而不是先花太多时间深入技术细节。

而 Amazon Bedrock 就是降低试错成本最好的'双向门'：在 Bedrock 上，模型和场景不匹配，就退出去，重选一个。

Amazon Bedrock 已经成为客户使用基础模型构建和扩展生成式 AI 应用程序的最简单方法，降低了所有开发者的使用门槛。这种优势正在不同行业、不同场景上体现出来。

案例一：桥水基金的投资逻辑优化

全球最大的对冲基金桥水基金（Bridgewater Associates）很早就开始涉足生成式 AI 应用。桥水基金长达 50 年的全球市场投资经验，使其深入理解了市场运作的核心驱动因素，并将这些知识编写成复杂的专家系统，通过每天接收并处理大量外部数据，生成市场观点。随着 AI 技术的日益成熟，桥水基金意识到，通过 AI 和机器学习可以进一步优化这一过程。

2023 年，在联席首席投资官 Greg Jensen 的主导下，桥水基金构建了全新投资逻辑生成系统人工智能投资助手（AIA）。以前需要人工初步处理的问题可以交给 AIA 全面处理，然后再进行人工审查。整体来说，分析师可以更聚焦精力处理 20% 有难度的问题，剩下 80% 的基础问题交给 AIA 智能投资助手处理，节省了大量时间。

在构建 AI 投资助手的过程中，Amazon Bedrock 成为了一个至关重要的工具。通过 Amazon Bedrock 中不同模型的分析特性，灵活调用，以适应从基础的推理任务到更高阶的市场分析等不同场景。今年 7 月，桥水基金做出了新的尝试，发行了一支完全由 AI 操盘的规模 20 亿美金的基金。

案例二：Poly AI 的语音客服定制

智能语音助手服务商 Poly AI，主要服务各行各业的企业客服中心，包括旅游、住宿、零售、金融服务等。Poly AI 的 AI 语音客服可以解答账户管理问题、安排交货、零售比价等。

Poly AI 的 AI 语音客服可以模仿人工客服人员，有助于减少用户等待时间并提高用户满意度和保留率，并针对不同企业客户的行业属性和场景需求进行个性化定制。这种定制不仅体现在语音助手的内容上，更深入到语调、语速等细节，根据目标群体的特性调整交流方式、专业表述的程度、热情程度、关切程度等，比如在针对老年群体或教育的场景会调整语气、语调、语速、音色，确保客户体验的最佳化。

Poly AI 还在基于 Amazon SageMaker 平台进行大规模语音克隆和合成算法的训练。这个过程中，Poly AI 为企业构建的解决方案可以将企业品牌个性融入其中，更有识别度，使语音助手不仅仅是一个工具。

今年 8 月，Poly AI 宣布与亚马逊云科技达成战略合作协议，增强了 Poly AI 在大模型和生成式 AI 上的应用深度。

案例三：NinjaTech AI 的算力成本控制

初创公司 NinjaTech AI 是一家智能体（Agent）系统开发商。该公司面临的现实挑战之一是算力问题。由于英伟达 H100 的高成本和短缺，NinjaTech AI 选择了亚马逊云科技自研的两款 AI 芯片——Trainium 和 Inferentia。经过双方努力和协作，NinjaTech AI 目前基于亚马逊自研芯片成功训练 AI 模型，并构建 AI 智能体。与传统 GPU 解决方案相比，NinjaTech 在使用 Trainium 和 Inferentia 时，成本节约达 82%-89%。这一显著的成本优势使得他们能够以更具竞争力的价格为客户提供高效、经济实惠的 AI 服务。

除了芯片，NinjaTech 还利用 Amazon SageMaker 进行生成式 AI 模型的微调和优化。在复杂的 AI 模型训练中，NinjaTech 需要处理不同的上下文、内存管理、数据存储等挑战，而 SageMaker 的按需服务模式，使其能够快速进行实验、训练，并在不浪费资源的前提下高效部署 AI 应用。

案例四：Goodnotes 的文档处理增强

作为一款生产力工具，Goodnotes 通过生成式 AI 应用提高用户在电子文档处理和学习过程中的体验。基于 Amazon Bedrock，Goodnotes 将生成式 AI 服务无缝集成进现有产品，包括手写笔记识别、自然语言与笔记互动、文档分析助手等功能。为了确保用户数据隐私及教育合规，Goodnotes 利用 Guardrails 功能确保安全性与合规性，防止用户恶意使用 AI 生成有害内容。

企业落地大模型的关键维度

不难看出，每家企业构建生成式 AI 应用推动业务创新，对于模型或工具平台的选择，往往会从可靠性、经济性、准确性等维度入手。与此同时，大模型仍在快速升级，不断进行算法优化、参数扩增。通过 Amazon Bedrock，让各种技能水平的开发人员和各种规模的组织都有机会使用生成式 AI 进行创新，新的浪潮正加速到来。

1. 模型选择的多元化策略

单一模型无法覆盖所有业务场景。企业应建立多模型评估机制，根据具体任务（如文本生成、代码编写、图像理解）选择最优模型。利用平台提供的 API 网关，可以轻松实现模型间的动态切换和负载均衡，避免被单一供应商锁定。

2. 成本与性能的平衡

算力成本是制约大模型落地的关键因素。除了关注模型本身的 Token 费用，还需考虑推理硬件的成本。采用自研芯片或按需实例化服务，可以在保证性能的前提下大幅降低基础设施支出。同时，通过缓存机制和提示词工程优化，也能有效减少 Token 消耗。

3. 安全与合规的底线思维

企业数据隐私是红线。在引入公有大模型时，必须确保数据不出域或使用经过脱敏处理的数据。利用平台的 Guardrails 功能，可以过滤敏感信息和有害内容。此外，需符合当地法律法规对 AI 生成的监管要求，特别是在金融、医疗等强监管行业。

4. 业务场景的深度耦合

技术本身不是目的，业务价值才是。企业应避免为了用 AI 而用 AI，而是深入挖掘业务流程中的痛点。例如，客服场景的自动化、研发场景的代码辅助、设计场景的素材生成。只有将 AI 能力嵌入到具体的工作流中，才能真正提升效率。

结语

大模型技术正处于爆发期，但盲目追逐最新模型并非明智之举。极致的务实主义意味着在技术选型、成本控制和业务价值之间找到最佳平衡点。通过成熟的云平台支持，企业可以更低门槛地探索 AI 潜力，将重心回归到解决实际问题本身。