(圖/ 中華超傳媒 AI圖片)
比爾蓋茲近日在美國接受《Meet the Press》專訪，警告人工智慧若遭心懷惡意者利用，能力可能足以推動造成10億人死亡的極端事件，並主張美國政府應透過立法建立AI安全監管機制。隨著華府與AI產業對監管方式仍存在不同看法，人工智慧安全已從科技議題延伸至美國國家政策與治理層面。
比爾蓋茲警告AI極端風險
比爾蓋茲與人工智慧安全監管，近期再次成為美國科技政策討論焦點。微軟共同創辦人比爾蓋茲在接受NBC《Meet the Press》訪問時談到AI可能被惡意使用的風險，直指目前人工智慧的能力，已足以在極端情境下推動造成大規模死亡的事件，甚至可能涉及10億人規模。這項說法並非預測特定災難即將發生，而是用來說明AI能力提升後可能產生的潛在風險。
與過去將AI風險集中在失業、假訊息或個資問題不同，比爾蓋茲此次談話把討論範圍拉到更高層次，也就是當AI工具被具有惡意目的的人掌握後，是否可能放大網路攻擊、生物安全、武器開發等高風險活動的影響。
從「技術能力」轉向「誰負責監督」
比爾蓋茲的核心主張並不只是AI可能造成多大傷害，而是政府是否應該介入建立明確的安全規則。他在訪問中表示，單靠企業自行監管並不足夠，並認為政府、執法機關及政治人物都應參與安全防護與監控機制的制定。
這也讓AI監管的焦點從「要不要發展AI」逐漸轉向「哪些風險需要由政府設定最低標準」。包括模型測試、危險能力評估、事件通報、第三方監督，以及高風險AI部署條件，都可能成為未來政策討論的一部分。
Anthropic執行長阿莫戴近來也曾提出放慢前沿AI發展速度的主張。Anthropic目前公開的政策框架則提出，政府可以對最強大的AI模型建立透明度、獨立評估及必要的干預權限。公司近期也公布前沿AI開發速度及監督能力的相關衡量方式，顯示產業內部對安全治理的討論，已不再只是抽象的倫理問題。
AI能力快速增加，安全議題同步升級
人工智慧風險之所以重新受到關注，也與模型能力快速提升有關。Anthropic今年9月公布的研究顯示，部分AI模型在情報分析及傳統武器開發相關任務上，已能完成過去需要高度專業人力才能處理的部分工作；公司同時強調，這類能力也增加了遭到濫用的風險，因此需要相應的安全措施。
Anthropic近期公布的威脅情報報告也指出，從網路攻擊、監控、詐騙到生物及武器相關活動，AI已被部分惡意行動者用於提高工作效率與規模。這些案例並不代表AI本身會自主造成大規模災難，但說明生成式AI正在逐步成為既有高風險活動可以利用的工具。
因此，比爾蓋茲所說的「10億人死亡」更適合放在AI風險治理的極端情境中理解，而不是當作一項可以驗證的死亡預測。目前也沒有公開證據顯示AI已經導致或即將導致如此規模的死亡事件。
美國政府如何監管，仍是政策變數
真正棘手的問題，是美國政府對AI監管究竟要採取什麼程度的介入。近期華府對AI政策的討論仍處於快速變化階段。美國總統川普過去多次表達反對過度限制AI發展的立場，認為美國需要維持人工智慧領域的競爭力；另一方面，包括部分AI產業領袖及政策人士則主張，面對前沿模型可能帶來的安全風險，需要建立政府層級的監督與安全標準。
值得注意的是，川普、眾議院議長強生及多家科技公司高層預計在9月29日舉行AI相關會議。公開資訊顯示，會議背景正值美國社會與科技產業對AI安全及政府監管方式的討論升溫之際，但目前尚無資訊可以確認該會議將形成何種具體政策或法案。
AI監管進入政策攻防新階段
從產業角度來看，AI監管的難題並不是單純在「開放」與「禁止」之間二選一，而是如何界定高風險系統、由誰進行評估，以及企業在發生安全事件後需要承擔多少責任。
如果監管標準過於寬鬆，政府可能難以掌握前沿AI快速演進所帶來的新型風險；但若規範涉及模型開發、算力、資料與產品部署的範圍過大，也可能影響企業研發與市場競爭。這也是目前美國AI政策討論最具爭議的部分。
對AI企業而言，另一項變化則是「自律」可能逐漸與外部監督並行。Anthropic已提出由第三方評估安全措施的做法，並公開AI開發速度、監督及資源使用等指標，反映部分產業開始嘗試提高外部可見度。
未來觀察：10億人警告真正重要的是治理問題
比爾蓋茲提出的「10億人」極端情境，真正引發討論的並不是這個數字本身，而是當AI能力持續提高後，現有監管制度能否同步跟上。
目前可以確認的是，AI安全已同時涉及科技企業、政府、國家安全及社會治理，而美國不同政治人物與AI企業對政府應介入到什麼程度，仍存在明顯差異。9月29日華府AI會議後是否出現新的監管方向、前沿模型是否建立更具體的安全評估制度，以及企業自律與政府規範如何分工，將成為後續觀察重點。
在缺乏具體法規與政策結果之前，「AI可能造成10億人死亡」仍應視為一項針對極端風險的警告，而非已經發生的事件。真正值得追蹤的，是AI能力快速成長之後，政府、企業與社會能否建立相對應的安全治理機制。
FAQ
Q1：比爾蓋茲為什麼警告AI可能造成10億人死亡？
A：比爾蓋茲是在討論AI遭具有惡意目的的人利用時的極端風險。他表示AI能力可能足以放大高風險活動，但這不是對特定災難即將發生的預測。
Q2：比爾蓋茲是否主張美國應該管制AI？
A：是。比爾蓋茲表示，企業自我監管不足以處理AI風險，並支持美國政府透過法律建立安全防護及監控要求。
Q3：Dario Amodei與比爾蓋茲的AI安全觀點有何關聯？
A：Anthropic執行長Dario Amodei近期主張應放慢前沿AI發展速度，Anthropic也提出政府監管前沿AI風險的政策框架，並推動第三方安全評估。
Q4：AI真的已經造成10億人死亡嗎？
A：目前沒有公開證據顯示AI已造成10億人死亡。比爾蓋茲的說法是在描述AI遭惡意利用時的極端風險情境。
Q5：目前美國政府是否已經制定完整的AI監管法規？
A：美國AI政策仍在快速發展，政府與產業對監管程度及方式存在不同立場。近期川普、眾議院議長強生及科技業高層預計舉行AI會議，具體政策結果仍待觀察。
Q6：Anthropic為什麼重視AI安全監控？
A：Anthropic近期公開AI開發速度、AI代理監控及安全評估資料，也表示第三方評估機制有助於提高外部監督能力。
Q7：AI風險主要來自哪些方面？
A：目前公開討論包括網路攻擊、詐騙、監控、生物安全、武器開發及其他惡意使用情境。Anthropic近期威脅情報報告也記錄了多類AI濫用案例。
Q8：9月29日美國AI會議為什麼受到關注？
A：川普、眾議院議長強生及科技公司高層預計就AI議題會面，時間點正值美國對前沿AI安全、政府監管及產業自律的討論升溫。
中華超傳媒
(文/ 記者 郭紋雅)