海納百川》建造AI「阿西洛馬」防護機制 趨吉避凶（林基興）

林基興

2024年，因人工智慧（AI）而獲得諾貝爾物理學獎得主辛頓（Geoffrey Hinton）表示，AI 在未來30年內導致人類滅絕的可能性為「10％到20％」，結果，全球一片嘩然。最近，他又發警告，AI如新創「異種生命」，就如哥白尼（人居地球非世界中心）與達爾文（人非神獨特造出而經演化而來）引發的西方革命，且已威脅人的生存。

AI界缺乏節制與妄自發展嗎？近來，美國國防部與AI公司 Anthropic 發生爭議，因後者拒絕前者要求對美國公民大規模監控、用於完全自主的軍事目標鎖定與自主殺戮；Anthropic堅持原則而失去這筆交易，但員工支持公司原則。接著，Anthropic諮詢宗教和哲學家，希望教導AI「遵守倫理、可信賴」。

其次，日前，輝達執行長黃仁勳，駁斥辛頓的擔憂，說「辛頓提的數字（10％到20％）沒有科學依據，僅因它出自科學家之口，並不意味著它就是科學的。應秉持以證據為基礎的科學態度。」接著，他回應近日教宗的批評，包括AI 可能毀滅世界、擔心輝達的AI防護欄；黃仁勳澄清，若發現客戶利用輝達晶片開發不安全的AI，輝達將主動切斷其晶片供應，事實上，輝達早已展開嚴格的客戶篩選機制，例如去年在新加坡與日本等地審查淘汰超過一半的既有客戶。

類似地，在生物科技方面，基因工程（國人俗稱基因改造）始於1972年的第一個重組DNA分子與1973年的人工合成治療糖尿病的胰島素。但社會開始有疑慮，於是，1975年，基因工程界在美國加州召開「阿西洛馬重組DNA會議」（Asilomar Conference on Recombinant DNA），集合法規、倫理、生態、健康、社會等專家檢視，成為科學界自我節制與省思的典範。後來2000年，在原地召開「國際重組DNA分子會議」，擴大為全球規模。總之，基因工程界自主節制，至今效果良好。

AI已經產生創造新藥與解決數學難題等令人驚艷紀錄，但負面事故也發生過，尤其今年7月，OpenAI公司一群AI代理（agent）入侵另一家AI公司Hugging Face，此事件為AI與資安界帶來的教訓，包括若賦予 AI 自主與明確的目標導向（績效指標）時，會出現高度的獎勵駭客與「不擇手段的作弊」。

AI 界感受各界的質疑，模仿有成效的基因工程做法，2017 年，也在該地召集各界舉辦「有益AI大會」，發表《阿西洛馬AI原則》，包含23個「研究、倫理與價值、長程議題」指導方針。但上述事件顯示AI界需與時俱進地研商新公約，就如基因工程界視需求而辦第二次會議。

人心良莠不齊，但如唐朝諫官魏徵名言「情有愛憎，憎者唯見其惡，愛者唯見其善」，我們須「愛而知其惡，憎而知其善」，明辨人事之優缺與福禍，而非以偏概全。其次，風險是無盡的連續觀念，取與捨（找替代）各有風險與福祉。第三，新科技一直冒出，如水可載舟也可覆舟，人類需善用科技，而非恐慌或誤用。科學界需常自省與受監督，包括建造「阿西洛馬」防護機制，則人類趨吉避凶。

（作者為大學教授）

來源: 中時新聞網 https://www.chinatimes.com/opinion/20261019002208-262110