全面擁抱「代理AI」時代!Google成為自己的「零號客戶」:內部75%程式碼已由AI生成

Google執行長Sundar Pichai於Cloud Next'26大會前發表公開信,揭曉Google Cloud的強勁動能與未來佈局。目前,Google的第一方模型 (即Gemini)每分鐘已可處理超過160億個詞元 (Token),相比前一季為100億個詞元規模,明顯增加不少。為了支撐這龐大的成長,Google預計今年將有超過一半的機器學習算力投資挹注於雲端業務。

全面擁抱「代理AI」時代!Google成為自己的「零號客戶」:內部75%程式碼已由AI生成
▲Google執行長強調,Google以零號客戶形式先行驗證自身服務是否夠好,才會進一步將這些服務推向市場,同時也說明在AI代理浪潮下,Google內部多達75%程式碼都已經是以AI生成,並且由人類工程師監督、修正,或是規劃相關程式碼內容生成方式

聯合新聞網/ 楊又肇

Google 執行長Sundar Pichai於Cloud Next'26大會前發表公開信,揭曉Google Cloud的強勁動能與未來佈局。目前,Google的第一方模型 (即Gemini )每分鐘已可處理超過160億個詞元 (Token),相比前一季為100億個詞元規模,明顯增加不少。為了支撐這龐大的成長,Google預計今年將有超過一半的機器學習算力投資挹注於雲端業務。

而此次Google Cloud Next'26大會的亮點,全面聚焦於「代理人AI」 (Agentic AI)的實用化、與Wiz深度整合的資安防護,以及專為嚴苛AI負載量身打造的第8代TPU雙架構設計。

全面邁入「代理人」時代:Gemini Enterprise代理平台登場

Google在去年秋季推出Gemini Enterprise服務平台,定位為銜接企業數據、員工與目標的橋樑,並且作為企業AI應用統一入口。這項服務在今年第一季創下付費月活躍用戶當季增加40%的驚人成績。

隨著AI代理系統的普及,為了讓企業能更有效地管理這些數位勞動力,Google正式推出全新「Gemini Enterprise代理平台」 (Gemini Enterprise Agent Platform)。這個平台被定位為「代理人企業的任務控制中心」 (Mission control),提供安全且全端的基礎架構,讓企業可以充滿信心地建構、擴展、治理,並且最佳化內部AI代理生態。

以Gemini Enterprise代理平台推動大規模的代理式AI應用體驗

▲以Gemini Enterprise代理平台推動大規模的代理式AI應用體驗,讓更多企業能藉由AI代理自動化形式加速、擴大業務發展

算力基礎再進化:第8代TPU採「訓練」與「推論」雙架構設計

為了應對AI代理系統帶來龐大運算需求,Google這次也端出基礎設施的重點更新——推出全新第8代TPU。有趣的是,這次Google採取雙晶片架構設計的戰略路線:

  • TPU 8t (專注於模型訓練):在單一超級叢集 (Superpod)中最高可擴展至9600顆TPU 8t,並且具備2PB規模的共享HBM高頻寬記憶體。其運算能力是上一代「Ironwood」的三倍,每瓦效能更提升高達兩倍。
  • TPU 8i (專注於模型推論):將1152顆TPU 8i連結在單一運算叢集 (Pod)中,在288GB的HBM高頻寬記憶體配置設計,額外加上384MB的SRAM靜態隨機存取記憶體,並且將容量提升3倍。其核心目標在於極大幅度地降低運算延遲,並且提供海量的資料吞吐能力,更確保企業能以最具成本效益的方式,同時運行數百萬個AI代理。
全新第8代TPU採雙架構設計,分別對應訓練與推論應用需求

▲全新第8代TPU採雙架構設計,分別對應訓練與推論應用需求

目前這兩款客製化晶片,將與採用NVIDIA GPU加速的執行個體並列成為目前Google Cloud客戶運算選項的核心主力。

攜手Wiz,以AI驅動雲端與應用程式資安

AI雖然帶來了新的資訊安全風險,但同時也是最強的「防禦武器」。

Google在大會上揭曉一系列由AI代理驅動的威脅偵測解決方案,這套由AI驅動的網路安全平台,完美融合Google既有的威脅情報 (Threat Intelligence)與安全維運解決方案,同時深度整合Wiz的雲端與AI安全平台。

此外,Google也同步推出Wiz的全新「AI應用程式保護平台」 (AI-APP),能跨越混合雲、多雲架構與AI環境,提供從程式碼編寫、雲端部署到執行階段 (Runtime)的自動化保護。

Google成為自己的「零號客戶」:內部75%程式碼已由AI生成

在向企業推銷這些技術前,Google選擇讓自己成為最佳的「零號客戶」 (Customer Zero)。Sundar Pichai在公開信中分享幾個令人震撼的內部數據:

  • 程式碼編寫:目前Google內部高達75%的新程式碼是由AI生成,並且經由工程師審核批准,而去年秋季時的比例為50%。Google內部工程師們正利用完全自主的「數位任務部隊」進行工作,例如近期一項極度複雜的程式碼轉移任務,在AI代理與工程師的合作下,完成速度比一年前快上整整6倍。
  • 資安維運:Google的安全維運中心 (SOC)代理現在每月能自動分類數以萬計的非結構化威脅報告,使得整體威脅緩解時間足足縮短高達90%以上。
  • 行銷營運:在推廣Chrome內建Gemini功能的專案中,行銷團隊利用模型快速生成數千種創意資產變化,不僅讓工作時間縮短多達70%,更帶來20%的轉換率提升。

分析觀點

從Google Cloud Next'26公布內容來看,我們已經完全告別「AI還在實驗室」的測試階段,正式進入「AI代理人接管工作流程」的全新時代。

此次值得關注的硬體亮點,是第8代TPU跟進市場「訓練/推理分流」的雙架構設計,將「訓練」 (TPU 8t)與「推論」 (TPU 8i)徹底拆分的決策,印證先前在產業中觀察到的趨勢:當模型參數不再無止盡地狂飆,而開始追求落地應用與百萬級規模的API呼叫需求時,「記憶體頻寬」與「超低延遲」的重要性,將遠大於單純的浮點運算力。

此外,在TPU 8i搭載288GB的HBM高頻寬記憶體,加上同樣具備低延遲存取效能特性,並且維持高耐用度特性的SRAM靜態隨機存取記憶體設計,使得記憶體容量提高3倍,藉此解決推論時的記憶體之牆 (Memory Wall)問題,進而能對應龐大規模的AI代理運作需求。

而Google強調內部已有75%程式碼是由AI生成,實際上也別具象徵意義,不僅作為Google強調自身AI代理技術趨於成熟,更意味當前的軟體工程的典範已經開始轉移:編寫程式碼已經不再像過往是由工程師逐行手打,而是透過AI輔助、人為監控情況下快速產生,藉此應對迅速變化的市場需求。

在Gemini Enterprise代理平台與Wiz資安防護網的加持之下,Google強調未來的企業競爭,比拚的將不再是有多少工程師人力,而是能指揮多少個高效、安全且不知疲倦的AI代理人。

来源:聯合新聞網