Next ’23 参会随想 | 开启智能化新篇章，生成式 AI 成创新关键

Ne0inhk

25 Dec 2024 — 8 min read

以下文章来源于谷歌云服务，作者 Google Cloud

www.zeeklog.com - Next ’23 参会随想 | 开启智能化新篇章，生成式 AI 成创新关键

赵霏

Google Cloud 中国架构师团队总监

Google Cloud Next ’23 于 8 月 29 - 31 日在美国旧金山举办，这次活动成功地吸引了超过 17,000 多名来自全球各地的参会者。在大会中，Google Cloud 发布了一系列新的服务和功能，旨在帮助企业加速创新、提高效率和安全性，具体的发布内容可以参考：

All 161 things we announced at Google Cloud Next ’23 – a recap（可点击末尾的阅读原文查看全文）。作为大会的参与者，今天来简单地记录和总结下我的一些体会。

无处不在的 Duet AI

随着生成式 AI 的火爆，越来越多的用户和开发者开始思考如何在自己的应用中加入生成式 AI 的能力从而提高效率，加速创新或把重复性工作简单化，而这次 Next 上发布的 Duet AI in Workspace 以及 Duet AI in Google Cloud 在我看来就是诠释如何来集成生成式 AI 的能力到现有的应用中。

以 Workspace 为例，目前已有超过 30 亿用户和 1,000 万的付费客户在日常中使用 Google Workspace，是世界上最受欢迎的生产力工具。而生成式 AI 能力的引入，可以使得用户在不改变原有使用习惯的同时，让协作变得轻松、有趣且无处不在，让创作更富有灵感，让工作更简单和高效。比如它可以通过从相关源文档生成摘要并自动构建演示文稿。

再比如它可以自动生成会议摘要和需要跟进的事项并将其作为回顾发送给参与者，从而使下一次会议更加高效，也不用担心时间安排而错过了会议。

而 Duet AI in Google Cloud 更是深入在 Google Cloud 所涉及的所有服务，用户可以在任何时间向 Duet AI 寻求帮助，查找使用方式或发现问题，解析日志 (如下图)，翻译指令等等。

另外，Duet AI in Google Cloud 还可以帮助开发者在集成调用 Google Cloud API 时生成代码，代码分析，自动引入依赖包以及建议测试方案等等。

开放完整生成式 AI 模型构建体系

那么，如果用户和开发者想要构建符合自己应用需求或行业属性的大模型应该怎样做呢？实际上，刚才提到的 Duet AI 的模型就是 Google 基于发布的 PaLM 2 这一 Foundation model 而进行微调的结果，而这次的 Next 也宣布了 PaLM 2 的文本和聊天的微调功能的发布，用户只需要上传 100 个样本就可以对 PaLM 2 进行微调从而快速构建符合需求的大模型，并且 RLHF (基于人类反馈的强化学习) 的发布，可以使用人工输入来进一步优化模型的输出结果。

同时，除了来自 Google 发布的 AI 模型，Model Garden 里加入了包括 Llama 2, Code Llama, Falcon LLM, Claude 2 等开源或三方的模型，使得用户可以更自由地选择 Foundation Model 用来构建大模型。

而在 MLOps 方面，结合新推出的 Colab Enterprise 和 Vertex AI Pipeline 可以方便地构建 GenAI 的 MLOps 体系从而自动化地监控和训练模型，并利用 Gen AI Evaluation Service 对模型的不同指标进行有效的评估。

最后，大模型的“幻觉”常常是困扰开发者的一个问题，新推出的 Grounding Service 正是为解决此类问题而产生的服务。它可以结合 Google Search 或 Enterprise Search 将输出进行真实性的检查和修正，从而确保输出符合开发者的预期。

主动全面的安全防护

Next ’23 还推出了一系列安全相关的服务和功能，其中，为了更好地帮助用户了解其云环境的潜在风险，Security Command Center Premium 添加了attack path simulation，可以对一系列复杂步骤、利用多个漏洞或针对多个资源的攻击进行建模。通过攻击路径模拟，团队可以预测对手可能进行攻击的方式和地点，并评估云环境的总体风险。

使用 Security AI Workbench，Security Command Center Premium 可以快速分析和总结多阶段攻击路径，然后创建易于理解的摘要来解释复杂的攻击。这些摘要有助于快速评估云环境风险最大的地方，以帮助确定响应的优先级。

在合规性方面，Security Command Center (SCC) 还可以提供了实时的合规性报告，利用 Google Cloud 内置的几百个检测器可识别计算、网络、日志记录、GKE 集群中的常见错误配置和漏洞，而这些已经映射到了常见的合规性标准。用户可以直接在 SCC 上查看或下载相关合规性标准的报告，方便提交给相应的审计机构。

而在漏洞扫描方面，我们提供与 Google 自我保护相同的 Web 安全扫描技术 Web Security Scanner，它会自动发现 Google Cloud 上运行的 Web 应用程序中的新漏洞。包括可访问的 git 存储库、跨站点脚本、SQL 注入、Web 应用程序中的弱密码等漏洞。另外，新推出的 Agentless Vulnerability Scanning 可以在不安装 Agent 的情况下通过完整的软件扫描和网络端口扫描可为超过 78K+ 操作系统、网络和应用程序 CVE 提供检测。

最后，最新 Security AI Workbench 是业界首个基于 Vertex AI 构建的可扩展平台，并由专业的大模型 Sec-PaLM2 提供支持。该安全模型针对安全用例进行了微调，结合了 Google 安全情报和合作伙伴扩展功能，为用户带来威胁情报、工作流程和其他关键安全功能。Security AI Workbench 将能够快速构建更好的产品和解决方案，通过将专有数据和用户体验与 Google 独特的安全专业生成式 AI 能力相结合，实现差异化，而无需构建和维护昂贵的专有大语言模型和资源。

结语

除了上述提到的这些外，Next ’23 还推出了其他令人兴奋的服务和功能，比如 GKE Enterprise 帮助用户使用单一的控制台编排和管理分布在全球的多个 Kubernetes 集群，Cross-Cloud Network 帮助用户轻松建立跨多云环境的全球网络，新一代的 TPU v5e 提供更具性价比的算力帮助用户训练和部署生成式 AI 的大模型，BigQuery Studio 将数据工程，分析，预测统一的工作界面从而简化端到端的数据工作流程，等等。

如果您还想了解更多详细内容

敬请期待 9 月 26 日的

Next ’23 中文精选课！