闕志克／為何政府應監管AI？
大型語言模型已能發動網路攻擊；Anthropic籲政府監管。AI恐致失業、濫用武器、失控滅絕。提案強制檢測、第三方審查、達門檻暫停部署，但監管必要性仍有爭議。
聯合報／闕志克
今年四月，Anthropic名為Mythos的大語言模型展現了在此之前只有高端駭客才具備的「漏洞發現、分析與運用」的全流程能力，不僅能夠找出成千上百個潛藏多年於主流作業系統與網路瀏覽器中的零日漏洞，並且可有效運用作成攻擊，甚至還能借助密碼分析技術改良攻擊商用加密軟體的手法。
七月中，OpenAI在內部測試一個大語言模型的網路攻擊能力時，調用了上千個自主智能體，結果竟然入侵外部網站。分析發現，由於該模型無法成功破解某試題，便決定劍走偏鋒上網搜尋可能方案。為此，它先侵入OpenAI基礎設施中的某個服務以便連上互聯網，再建立了一個可供智能體之間共享信息與協同運行的隱蔽通信通道，最後利用多組偷來的憑證駭入Hugging Face平台，成功取得原試題的解方。
到了九月，OpenAI宣稱它用了超過一萬個智能體，花了一千三百億個詞元，在八十八個小時內解決了千禧年大獎的難題之一。這三個案例顯示先進大語言模型在特定領域的推理能力已超越頂尖專家；它們尤其擅長在體量龐大的答案空間中進行搜索，從而找到滿足各式各樣複雜約束條件與要求的最佳解答。這些發展促使Anthropic執行長阿莫戴提出對大語言模型作強制測試與政府監管的倡議，不少科技巨頭也迅速聲援，至此美國最重要大語言模型的前沿實驗室達成了難得的共識。
但異議的聲音也有，尤其是有關政府監管的倡議，如輝達的黃仁勳和Meta的祖克柏。有趣的是，川普政府與中國政府皆因考量未來兩國ＡＩ產業的競爭力，堅持反對的態度，雖然今天所有中國大語言模型都必須先跟政府註冊並通過檢測才能發行。
ＡＩ可能帶給人類社會三種巨大傷害。第一，生成式ＡＩ的廣泛採用帶來了失業問題、教育問題、以及類似社交媒體所引起但威脅更大的心理健康問題，將對社會產出劇烈衝擊。第二，邪惡團體濫用大語言模型的能力產製核子、生化或駭客攻擊武器，造成大範圍的實質破壞。第三，當大語言模型的智力遠超過人類而不再完全受控時，人類文明可能面臨滅絕的危機。
阿莫戴提案包含三個監管元素。首先，政府針對模型濫用防範、模型防盜保護以及智能體工具調用的沙箱機制，訂定統一標準並強制檢測。其次，大語言模型應定期接受獨立第三方機構評估審查，這些機構對模型訓練過程中內部系統與流程的存取權限，應與公司內部風險評估團隊一樣。最後，當大語言模型的能力達到特定水平時，負責開發的公司不得發行部署，甚至應停止增強該模型，直到相應的安全防護技術證明到位，這樣才能阻止大語言模型擺脫人類控制，自行其是，從而造成對人類文明不可挽回的戕害。
這提案的主要爭議在於政府監管是否絕對必要。支持者最有力的論點是：因為大語言模型很可能影響整個人類命運的走向，所以該技術發展應用的廣度與速度應交由人民選出的政府決定，而非幾間私人公司的ＣＥＯ手上，因為這些ＣＥＯ畢竟未必時時將全人類的利益放在首位。核子技術的管制以及禁止應用基因編輯於人類改造，都是同樣邏輯的產物。
當然，政府監管不是萬靈丹，關鍵是確保人類開發出來的安全防護檢測技術夠強，足以節制大語言模型。但是，一旦大語言模型與人類之間的智識差距變得有如博士與幼稚園兒童時，能否永遠確保此關鍵就很難講了。
（作者為清華大學合聘教授）
