楊艾俐專欄》AI變身自走炮

楊艾俐

不久前，OPEN AI（CHATGPT所屬公司）總裁奧特曼公開承認，他們已無法控制AI了。

2026年7月，OpenAI測試新AI的網路防禦能力時，為了看它的極限，解開了它的安全限制。沒想到AI為了完成解題目標，竟然自己找出系統漏洞，逃出隔離的測試環境，還上網駭入另一個科技平台Hugging Face偷答案，證實AI已可自我演化。

我想到AI可以找系統漏洞，也可以找白宮的核彈發射系統進去，發射核彈，那就是人類浩劫的開始，我從不相信AI會毀滅人類，接管人類等粗糙推論。但是AI失去人類的控制，後果誰也不能想像，也不敢現象。

奧特曼宣布此消息後，科技圈極端恐懼。2026年7月底，一封名為《控制前沿發展》（Pacing the Frontier）的公開信震驚全球，超過1300名來自各大AI公司最頂尖的科學家和高階主管共同聯署，要求美國政府介入，強制讓AI慢下來。

同一時間，美國成人也對AI的反感達到空前（沒有絕後），前Google執行長施密特6月在大學畢業典禮發表演說時，陳腔濫調地宣告人工智慧（AI）時代來臨，引起台下畢業生噓聲四起。皮尤（Pew）最近調查發現，美國40％成年人認定AI對社會有害，無害的只有16％。美國人一向擁抱新科技，但是隨著更多美國民眾將AI融入日常生活，政府能否妥善加以規範，讓人質疑。

2015年當社群媒體剛開始流行時皮尤調查發現，71％的美國民眾認為，科技公司對美國的發展「有某種正面影響」，僅17％表達負面觀點。但是現在大部分民眾對社群媒體深惡痛絕，前年底美國多州聯合控告社群平台巨擘Meta，刻意將臉書、IG等社群媒體設計成容易讓年輕人上癮，違反聯邦與各州的兒童隱私，Meta與美國各州達成和解協議，支付約台幣5447億元的罰款，還會大幅修改旗下商品。

很多人尤其不滿，AI巨頭危言聳聽，例如AI將消滅白領一半的工作，企業不投資AI會被消滅。諾貝爾經濟學獎得主克魯曼最近也嚴厲批評AI巨頭的貪婪。AI愈被說得無所不能，華爾街愈願意投資；企業也愈害怕落後，拚命買AI、於是AI公司股價直線上升，高幹和中級幹部都成為暴發戶，黃仁勳目前身價約新台幣5.7 兆元，已擠進世界前十大富豪，台灣中央政府預算約3兆元，也就是黃仁勳的身價夠我國中央政府運作兩年。

現在很多人被迫使用AI，美國許多公司不只是鼓勵員工使用AI，而是強迫使用，甚至把AI使用量列入績效考核。Google搜尋也大量加入AI功能，使用者想回到傳統搜尋，反而得自己想辦法。克魯曼也說，人們感覺科技產品及平臺日益「屎化」（enshittification垃圾話）。

現階段，在美國打各種服務電話，已經沒有真人應答，都是經過十幾次AI導引再導引，消費者得不到應有的服務和尊重。科技進步本來應該給人更多選擇，AI卻拿走人的選擇。AI需要龐大資料中心，更與人或其他企業搶土地、搶水，更搶電力。猶他州有一座規畫中的資料中心，占地規模竟達曼哈頓兩倍，台北市的一半，路透社調查顯示，57％的美國人反對住家附近興建資料中心，支持的只有14％。表示人們不願忍受AI革命最現實的一面：好處由科技巨頭拿走，代價卻由普通人支付。

最後只有靠政府管制AI發展，還是大有作為的空間，上聯名信的專家們深知，在科技業瘋狂內捲的「囚徒困境」下，沒有任何一家公司敢自己停下來。他們情真意切，懇求美國與各國政府出面建立一套「強制減速與控管機制」，在危急時刻為人類「買時間」，例如要求政府聯手成立國際安全機構。科技大廠要訓練或發布「下一代超級 AI」（前沿模型），必須強制將模型提交給政府機構進行「安全測試」，拿到安全執照後才能上線或繼續訓練，否則勒令停工強制立法加入「硬體級 AI 緊急終止開關（Kill Switch）」，就是AI變成自走炮後，30分鐘內強制斷網，以免造成浩劫。政府更可從管制晶片需求面著手，要求政府像管制稀有金屬或核子原料一樣，嚴格監控超過特定規模的「超級算力群聚」。

各國政府必須加緊通過法規和制度，不能再藉口自由市場運作，政府不得干預的說詞了，在AI失控前，扼住這匹脫韁野馬。

來源：中時新聞網 https://www.chinatimes.com/opinion/20260827004363-262104