以下文章来源于谷歌云服务,作者 Google Cloud
Thomas Kurian
Google Cloud 首席执行官
今天,在 Google Cloud Next ’23 大会上,我们很高兴能够邀请众多客户和合作伙伴共聚一堂,展示我们在基础架构、数据和 AI 、Workspace 协作和信息安全解决方案等全系列产品不断创新的成果。我们对自己的努力与成果感到自豪,因为我们不断推陈出新,帮助企业和用户从生成式 AI 和领先的云技术中受益,包括:
AI 最佳化基础架构
最先进的 AI 最佳化基础架构,供企业训练和实现模型。我们在云区域中提供此基础架构,以便您使用 Google 分布式云在你的数据中心和边缘运行。
       Vertex AI      
用于构建模型和 AI 应用程序的开发人员工具,通过 Vertex AI 在创建自定义模型以及使用企业数据构建自定义搜索和对话应用程序方面取得了重大进展。
         Duet AI        
Duet AI 是一款全天候运行的 AI 协作工具,深度集成在 Google Workspace 和 Google Cloud 中。在 Workspace 中的 Duet AI 能让每位用户享有写作助手、电子表格专家、项目经理、会议记录员和创意视觉设计师的协助,这项功能现已全面上线。在 Google Cloud 中活用 Duet AI,就像和专业编码人员、网站稳定性工程师 (SRE)、数据库专家、专业数据分析师和信息安全专家进行协作。我们也在预览版中扩大支持 Duet AI,并将于今年稍晚全面推出。
我们也会陆续发表有关开发人员工具、数据、安全性、可持续性,以及我们快速增长的云生态系统等相关更重要的最新信息。
协助客户的全新基础架构和工具
革命性的生成式 AI 带来许多先进的功能并可广泛使用于各种应用,因此需要最先进、最强大的基础架构。我们 25 年来不断投资数据中心和网络,现在我们拥有涵盖 38 个云区域的全球网络,目标在 2030 年完全实现全天候采用无碳能源维持运营。
我们的 AI 最佳化基础架构是训练和实现生成式 AI 模型的优先选择。事实上,有超过 70% 的生成式 AI 独角兽公司和超过一半获得融资的生成式 AI 初创公司都是 Google Cloud 客户。今天,我们宣布协助客户的基础架构关键革新,包括:
Cloud TPU v5e
我们推出业界最新、最具成本效益、多功能且可扩展的专属 AI 加速器。现在,客户可以使用单个 Cloud TPU 平台来运作大规模 AI 训练和推理。Cloud TPU v5e 可扩展到数万个芯片并针对效率进行了优化。与 Cloud TPU v4 相比,每美元的训练效率可提升 2 倍,每美元的推论效率可提升 2.5 倍。
搭载 NVIDIA H100 GPU 的 A3 虚拟机
我们搭载 NVIDIA H100 GPU 的 A3 虚拟机将于下个月全面上市。这是专为实现高效率网络和其他先进技术而构建,以应对当今对生成式 AI 和大语言模型(LLM)的高度需求。这使得机构能够实现比上一代 A2 高出三倍的训练效率。
GKE Enterprise
为要求最高、完成关键任务的 AI/ML 工作负载,提供所需的多集群水平扩展;客户已看到生产力提高 45%,同时软件部署时间减少 70% 以上。今天开始,Cloud TPU v5e 已能享有和 GKE 同样的优势,包括自动拓展、工作负载自动化调度管理和自动升级。
跨云网络(Cross-Cloud Network)
这个全球网络平台可协助客户跨云端连结和保护应用程序,更具备开放性、最佳化工作负载,并采用机器学习驱动的安全性措施,能真正落实零信任机制。跨云网络旨在让客户能更轻松地从任何云端访问 Google 服务,将网络延迟率降低将近 35%。
Google 分布式云(Google Distributed Cloud)
专为满足机构要在边缘或数据中心执行工作负载的独特需求。除了新一代硬件和新安全功能之外,我们还加强了 GDC 产品组合,通过 Vertex AI 集成功能和 GDC Hosted 上的 AlloyDB Omni 新托管产品将 AI 扩展至边缘。
我们的 Vertex AI 平台变得更好
在我们世界一流的基础架构之上,我们提供了我们相信是最全面的 AI 平台— Vertex AI,让客户能够构建、部署和扩展机器学习(ML)模型。我们看到了惊人的使用量,从今年 4 月到 7 月,生成式 AI 客户案例数量成长了 150 多倍。客户可以在我们的 Model Garden 中访问 100 多个基础模型,包括第三方和热门的开源版本。这些模型都依据不同任务和不同大小进行了优化,包括文本、聊天、图像、语音、软件代码等等。我们还为 Broadcom 和 Tenable 等全球安全服务供应商提供服务,专攻网络安全的 Sec-PaLM 2 等行业特定模型,以及协助领先的医疗保健和生命科学公司,包括拜耳制药 (Bayer Pharmaceuticals)、HCA Healthcare 和 Meditech 的 Med-PaLM 2 模型。
Vertex AI 中的搜索和对话现已全面上线,这让机构只需编写少量的代码和简单的企业管理和内建安全措施,就能够在短短几分钟内使用其数据建立搜索和聊天应用程序。此外,Vertex AI Generative AI Studio 为用户提供具有企业级数据安全管控且容易使用的工具,方便用户调整和自定义模型。这包括 Text Embeddings API 等开发人员工具,让开发人员可以依据文本或图像的语义理解,构建复杂的应用程序,以及运用人类反馈强化学习(RLHF)技术,结合用户的反馈来深度自定义和提升模型效率。
今天,我们很高兴地宣布 Vertex AI 平台中的几个新模型和工具:
PaLM 2、Imagen 和 Codey 升级版
我们将 PaLM 2 更新为 32k 上下文窗口,以便企业可以轻松处理较长格式的文档,例如研究论文和书籍。我们还改进了 Imagen 的视觉效果,并扩大了 Codey 对新语言的支持范围。
调整工具
我们也针对 PaLM 2 和 Codey 全面提供适配器微调功能,让用户即使只有 100 个示例,也可以提高 LLM 效率。我们还推出了一种新的 Imagen 微调方法,称为「风格化(Style Tuning)」,这让企业仅需要少量参考图像,就可以创作出符合品牌指南或其他创意需求的图像。

新模型
我们宣布推出 Meta 的 Llama 2 与 Code Llama,以及备受欢迎的Technology Innovative Institute Falcon LLM 开源模型,另外也预先发布Anthropic Claude 2。就 LLama 2 而言,我们将是唯一同时提供适配器微调和 RLHF 的云服务供应商。

Vertex AI 扩展功能
开发人员可以访问、构建和管理扩展功能,以提供即时信息、集成公司数据并代表用户采取行动。这为生成式 AI 应用程序开辟了无限的新可能性,这些应用程序可以作为企业的扩展功能,从第三方平台(如 CRM 系统或电子邮件)访问专有信息并采取行动的能力。
Grounding
我们宣布推出适用于 Vertex AI 基础模型、搜索及对话(Search and Conversation)的企业 Grounding 服务,协助客户将回复纳入企业自身的数据中,以提供更准确的回复内容。我们正在与一些早期客户合作,使用支持 Google 搜索的技术来测试 Grounding 功能。

在 Vertex AI 上产生电子水印
由 Google DeepMind SynthID 支持,提供一种非常先进的技术,能将肉眼不可见的水印直接嵌入于图像像素中,且无法被轻易窜改。电子水印为客户提供了一种可拓展的方法,以负责任的方式创建和识别 AI 生成的图像。我们是第一个为 AI 生成的图像提供此技术的超大规模云供应商。
Colab Enterprise
这项托管服务将结合 Google Colab 笔记本的易用性与企业级安全性和合规性功能。数据科学家可以使用 Colab Enterprise 来协作加速 AI 工作流程,访问 Vertex AI 平台的全部功能、与 BigQuery 集成,甚至补全和生成代码。
管控数据和发现并训练正确的模型一样重要。我们在设计 Vertex AI 之初,目的就是让你能够完全管控和区隔你的数据、代码和 IP,并且确保零数据泄漏。当你使用 Vertex AI 自定义和训练模型时,例如:使用来自 SaaS 应用程序、数据库或其他特定来源的私有文档和数据,并不会将该数据暴露给基础模型。我们会对模型进行快照,让你可以训练并在私有配置中封存它,借此让你完全管控你的数据。我们不会使用你的提示、数据及推理时输入的用户信息来改善我们的模型,其他客户也无法访问。
在 Workspace 和 Google Cloud 中
扩大支持 Duet AI
我们在 5 月的 I/O 大会上推出了 Duet AI,并在 Workspace 中引入了强大的新功能,并展示了 Google Cloud 中的代码辅助(code assistance)和聊天辅助(chat assistance)等开发人员功能。从那时起,世界各地值得信赖的测试人员都体验到了 Duet AI 的强大能力,同时我们致力于拓展 Duet AI 的功能,并将其集成到 Workspace 和 Google Cloud 的各项产品和服务中。
让我们从 Workspace 这个世界上最受欢迎的生产力工具开始说起,每天有超过 30 亿的用户和超过 1,000 万付费客户靠它来完成工作。几个月前我们推出 Duet AI ,并提供了许多功能来提高团队的工作效率,例如协助你在 Gmail 和 Google 文档中编写和优化内容、在Google 幻灯片中创建原始图像、在Google 表格中将想法转化为行动、将数据转化为洞察,或在 Google Meet 中促进更有意义的交流互动等等。从此,有数千家公司和超过一百万名值得信赖的测试人员使用 Duet AI,让 Duet AI 成为一位重要的协作伙伴、教练、灵感来源,和生产力推进器,同时帮助确保每个用户和机构都能掌控自己的数据。
今天,我们推出了一系列全新进阶功能:
1
Google Meet 中的 Duet AI
Duet AI 将在视频通话期间为你做笔记、发送会议摘要,甚至将字幕自动翻译成 18 种语言。此外,为了确保每位会议参与者都能清晰地看见、听见和理解,针对在 Google Meet 中使用 Duet AI 的部分,我们也推出新的摄影棚效果(studio look)、摄影棚灯光(studio lighting)和摄影棚音效(studio sound)等新功能。
2
Google Chat 中的 Duet AI
你将能够直接与 Duet AI 聊天,询问有关你的内容的相关问题,获取协作空间中共享文件的摘要,并了解错过的对话。我们还提供了更新的用户界面、新的快捷方式和增强的搜索功能,让你能够掌握对话的最新情况,并在 Google Chat 中提供 Huddles 功能,让团队可以从他们已经在协作的地方开始会议。
各种规模及行业的 Workspace 客户都在使用 Duet AI,并看到客户体验、生产力和效率的改善。Instacart 不断创建出新的客户服务工作流程,工业技术公司 Trimble 现在可以更迅速地向客户提供解决方案。Adore Me、Uniformed Services University 和 Thoughtworks 也通过使用 Duet AI 来提升生产力,只要简单的提示,即可快速编写电子邮件、活动简报和项目计划。
今天,我们将在 Google Workspace 中全面推出 Duet AI,同时扩展 Google Cloud 中 Duet AI 的预览版功能,并于今年晚些时候全面推出
Duet AI 不仅支持 Workspace,现在也提供许多 Google Cloud 产品与服务适用的 AI 功能,像是担任编码助手加快开发人员编码的速度;化身专家级顾问,协助运维人员快速解决应用程序和基础架构的问题;充当你的数据分析师,快速提供更实用的深入分析洞察;也可以作为信息安全专家,推荐帮助预防网络威胁的最佳实践。
我们在 Google Cloud 扩大支持 Duet AI 协作工具文章中,分享了以下层面的技术进展:
软件开发
在整个软件开发生命周期中,Duet AI 都能提供专业协助,通过最大限度地减少上下文切换来帮助开发人员提高工作效率,长时间维持注意力。除了完成及产生代码外,Duet AI 还能执行代码重构任务,从而帮助您更快地实现应用现代化;在 Apigee 中使用 Duet AI 也非常方便,所有开发人员都能通过简单的自然语言提示,轻松构建应用程序界面(API)并进行集成。
应用程序及基础架构运营
操作人员可以直接通过 Google Cloud Console 跨多种服务用自然语言和 Duet AI 对话,快速取得操作说明,了解基础架构配置、部署最佳实践,以及成本、效率优化的专业建议。
数据分析
在 BigQuery 中,Duet AI 可根据情境帮忙撰写 SQL 查询指令及Python 代码,产生完整函数及代码块,自动建议如何完成代码,用自然语言解释 SQL 语句,还能根据你的架构和元数据(Metadata)生成建议。有了这些功能,数据团队将能更专注于提升业务成果。
加速并现代化数据库
在 Cloud Spanner、AlloyDB 和 Cloud SQL 中,Duet AI 能生成代码,方便您用自然语言构建、修改或查询数据。Duet AI 现在也支持数据库迁移服务(DMS),能自动转换数据库代码,如预存程序、函数、触发条件和套件等无法用传统转译技术转换的项目。
信息安全运营
我们将 Duet AI 集成至 Chronicle Security Operations、Mandiant Threat Intelligence、Security Command Center 等信息安全产品,协助信息安全专家更有效率地防范威胁、减少安全工作流程中的繁琐工作,并提升相关人才的技能。
Duet AI 奠基于 PaLM 2 大语言模型,采用 Google Cloud 相关内容进行训练与微调 (如文件、示例代码和最佳实践等),可提供上下文建议及专业指引。此外,Duet AI 在设计阶段就遵照 Google 的 AI 准则,也全面考虑用户的数据安全与隐私- 你的数据完全由你掌控,无论是代码、输入 Duet AI 的内容,或 Duet AI 产生的建议,都不会用来训练任何共享模型或开发任何产品。
通过统一的数据和
 AI 基础大规模简化分析
数据是生成式 AI 的核心,所以我们为 Google 的数据与 AI 云端开发新功能,期待为数据团队解锁新见解并提高生产力。新推出的 Duet AI 能协助数据工程师和分析师使用 BigQuery、Looker、Spanner、Dataplex 和数据库迁移工具;此外,我们今天也宣布在数据与分析上的几项重要创新:
BigQuery Studio
BigQuery Studio 是一个可执行数据工程、分析和预测工作负载的单一界面,有助提升数据团队的效率。此外,Vertex AI 基础模型集成新功能后,也能帮助组织利用跨云分析、管理及安全数据共用的创新技术,将 AI 应用于数据湖仓。
AlloyDB AI
在与 PostgreSQL 相容的数据库服务 AlloyDB 中,我们今天推出的 AlloyDB AI 是不可或缺的一环,提供成套的集成式功能,如速度高达标准PostgreSQL 10 倍的高性能矢量查询,可简化生成式 AI 应用程序的构建。此外,有了 AlloyDB Omni,你几乎可以在任何环境下运行 AlloyDB,从本地部署、Google Cloud、AWS、Azure 到 Google 分布式云都没问题。
数据云合作伙伴
对客户的生成式 AI 战略而言,Google 的开放式数据生态系统是一大资产,我们正在持续扩增 Google Cloud 上现有合作伙伴的解决方案与数据集。举例来说,Confluent、DataRobot、Dataiku、Datastax、Elastic、MongoDB、Neo4j、Redis、SingleStore 和 Starburst 等合作伙伴都推出了新功能,帮助客户利用数据加速并增强生成式 AI 的开发。我们的合作伙伴也在 Analytics Hub 中新增了更多数据集,供客户构建、训练生成式 AI 模型,包括 Acxiom、Bloomberg、Dun & Bradstreet、TransUnion、ZoomInfo 等企业都提供了值得信赖的数据。
上述创新能通过统一的数据基础,协助组织发挥数据及 AI 的最大潜力。借助 Google Cloud,企业现在可以在任何地方运行数据,并直接用 AI 和机器学习工具处理数据,从而降低数据移动的风险和成本。
解决重大信息安全难题
Google Cloud 提供领先业界的信息安全服务,也是唯一能够结合不可或缺的前线情报和专业知识、现代化 SecOps 平台,以及值得信赖的云基础,并同时全部注入生成式AI 的强大功能的云安全服务供应商,确保客户能实现理想中的信息安全成果。
今年我们推出了 Security AI Workbench,是业界首创的可扩展平台,由 Google 的新一代安全性大语言模型 Sec-PaLM 2 驱动,结合 Google 独有的观测技术,帮助用户掌握不断变化的安全性威胁,并针对网络安全操作进行了微调。几周前,我们推出 Chronicle CyberShield,能解决数据孤岛的问题,也能集中管理安全性数据,并统一规划处理方式。除了以上介绍的 Duet AI 创新技术外,今天我们还要宣布几项功能:
01

Mandiant Hunt for Chronicle
这项服务结合 Mandiant 一线专家对攻击者行为的最新见解,以及Chronicle Security Operations 快速分析、搜索安全数据的功能,客户不必聘请专人,也不必处理工具和人才培训的复杂工作,就能享有专业级支持。
02

无代理安全漏洞扫描

Security Command Center 提供防护机制管理功能,可为 Compute Engine 虚拟机器上的操作系统、软件及网络漏洞。
03

网络安全技术提升
Cloud Firewall Plus 推出高级威胁防护和下一代防火墙(NGFW) 功能,由 Palo Alto Networks 提供支持;Network Service Integration Manager 则方便网络管理员集成受信任的第三方 NGFW 虚拟设备以进行流量检查。
在 AI 的推动下,我们已进入全新数字化转型时代。AI 不仅提升了企业运营与人际互动,也改变了医疗照护和日常沟通模式,连职场安全的维护方式都因而有所变化,而且这些还只是刚开始而已。
现在,我们正共同创造一个全新云时代,能与客户及合作伙伴一同踏上这趟旅程,我们深感荣幸。
继续阅读
阅读原文