(圖/ 中華超傳媒 AI圖片)
Meta執行長祖克柏在美國AI產業安全爭論升溫之際表示，他對AI未來「相當樂觀」，並認為AI實驗室可以各自承擔安全責任。隨著OpenAI、Anthropic主張更強的安全規範，美國華府的AI治理討論也持續升溫。
祖克柏對AI「末日論」持樂觀態度，安全責任成產業分歧核心
AI安全正成為科技產業在追求模型能力之外的另一項關鍵議題。Meta執行長祖克柏近日接受訪問時，被問及「AI會不會殺死人類」時，對AI發展前景表達相對樂觀的看法，認為只要企業負責任地開發與部署，AI仍可能為人類帶來廣泛利益。
祖克柏的說法值得注意之處，不只在於他對AI風險的態度，更在於他對「誰應該負責AI安全」的看法。他認為，不必等到整個產業形成高度一致的協調機制，各家AI實驗室可以針對自身系統面臨的風險建立安全措施，並把使用者信任、隱私與價值觀一致性放在產品發展的重要位置。這與近來部分AI公司的政策主張形成明顯對照。
Meta押注個別企業治理，Muse成為實際案例
祖克柏以Meta近期推出的個人AI代理人Muse作為例子，說明企業如何在產品推出前處理安全與隱私問題。Meta今年9月推出Muse，定位並非單純回答問題的聊天機器人，而是能夠代表使用者執行部分數位工作的個人AI代理人，包括處理電子郵件、瀏覽網站、安排行程及進行部分線上任務。Meta表示，Muse採用獨立的安全虛擬機器環境，並設計權限控制與敏感操作確認機制。
例如涉及寄送電子郵件或購物等敏感行為時，Muse會要求使用者確認；使用者也能自行決定AI可以連接哪些應用程式，以及可以取得多少權限。Meta並表示，Muse的對話資料與虛擬機器環境不會提供給Meta廣告系統使用。
這種產品設計也反映祖克柏所強調的另一項問題：AI真正進入日常生活後，使用者是否願意信任它。
當AI從「回答問題」進一步變成「替人做事」，安全問題便不再只是模型回答是否正確，也包括AI能否理解使用者真正意圖、是否在適當範圍內行動，以及發生錯誤時能否被及時控制。
Meta近期也進一步宣布，將把Muse延伸到AI眼鏡，讓使用者能透過語音與視覺資訊直接與個人AI代理人互動，顯示AI代理人已逐漸從聊天工具轉向具備實際執行能力的系統。
AI能力越強，安全問題也從「模型」延伸到「代理行為」
祖克柏所提出的觀點，也涉及AI產業正在面對的技術轉變。過去AI安全討論往往集中在模型是否會產生錯誤答案、生成危險內容或遭到惡意使用；但隨著AI代理人開始擁有瀏覽器、帳號、應用程式甚至交易能力，風險焦點逐漸延伸至「AI取得權限後會做什麼」。
近期OpenAI便公開建立模型失配行為的通報框架，希望更系統性地記錄、調查及公開模型出現的非預期行為。OpenAI也表示，目前AI安全評估需要更多獨立第三方參與，以檢驗企業自身安全措施是否足夠。
Anthropic近期同樣公布AI遭到濫用的案例，內容涵蓋網路攻擊、監控、影響行動、生物風險及詐騙等不同類型，並表示相關事件調查結果已用於強化安全措施及與政府、產業合作。
因此，目前AI安全爭論已不只是「AI會不會毀滅人類」這類極端情境，而逐漸轉向更具體的問題：當AI能力越來越接近自主執行工作時，企業究竟需要建立多少監控、權限限制與外部審查機制。
OpenAI主張強制規範，與Meta的企業自主路線形成對照
祖克柏主張由各家AI實驗室承擔自身風險，但OpenAI近期公開的政策方向則更加強調政府與產業共同建立安全標準。OpenAI 9月提出，希望美國建立具有強制性的、依AI能力分級的國家安全要求，並主張第三方安全評估、事件通報及其他制度化措施。OpenAI同時認為，隨著AI能力快速提升，單靠企業自願承諾可能不足以應付下一階段的風險。
OpenAI首席科學家Jakub Pachocki近期也公開表示，目前業界尚未充分解決AI對齊與監控問題，並主張在建立共同安全標準之前，應考慮自願性的發展放緩，以及提高國際協調的重要性。
這代表目前產業內至少存在兩種不同方向：一種強調由企業自行建立安全標準，另一種則認為隨著AI能力提高，需要政府、第三方與不同國家共同建立更具約束力的安全框架。
黃仁勳也反對放慢AI發展，但強調產品不能在不安全時推出
在這場爭論中，輝達執行長黃仁勳的立場也相對接近「持續推進AI能力」的一側。黃仁勳接受CBS訪問時表示，科技公司應該盡可能快速推動AI發展，但同時強調企業不應在產品尚未準備好或存在安全問題時就推出產品。
他也公開質疑部分「AI可能導致人類滅亡」的說法，認為相關論述缺乏充分事實基礎。因此，AI產業目前並非簡單分成「支持安全」與「反對安全」兩派，而是對於安全風險的程度、責任歸屬，以及政府是否應該介入，存在不同看法。
美國AI政策進入產業與政府交會點
這場產業爭論也開始進入美國政策討論。根據近期報導，美國總統川普、眾議院議長Mike Johnson及科技業執行長預計在9月29日舉行AI相關會議，討論快速發展的人工智慧以及政府與產業之間的關係。相關會議安排已由多家媒體報導，但具體議程仍有限。
目前美國政府對是否建立新的AI專門監管制度仍存在政策爭論。路透報導指出，川普主張美國不需要新的AI專門規範，並曾將AI監管與美中科技競爭連結；另一方面，包括OpenAI等企業則正在推動更具制度性的AI安全要求。
因此，9月29日的會議值得觀察的，不只是是否會公布新的AI政策，也包括美國政府如何處理「技術發展速度」與「安全監管」之間的政策取捨。
AI產業下一個競爭點，可能從模型能力轉向可信任程度
從產業發展角度來看，祖克柏提出的「信任」問題，可能比「AI會不會殺死人類」更加貼近日常市場。當AI只負責生成文字或圖片時，使用者可以自行判斷結果；但當AI代理人開始替使用者寄信、購物、安排旅行或處理其他數位任務時，使用者需要把更多權限交給系統。
這使得模型能力不再是唯一競爭指標。企業還必須回答AI能否正確理解意圖、是否會在錯誤情況下停止、如何限制權限，以及如何留下完整的操作紀錄。
Meta目前正沿著這條路線推進Muse，並透過安全虛擬機器、權限控制及敏感操作確認等方式降低使用風險。另一方面，OpenAI等業者則正在強化第三方評估、模型失配通報及政府安全規範等制度。
這意味著未來AI產業的競爭，可能不只是誰能打造更強大的模型，也包括誰能讓使用者、企業與政府相信這些系統在真實環境中可以被控制、被監督，而且出了問題能夠追蹤與修正。
結語：AI安全爭論從「會不會失控」轉向「誰來負責」
祖克柏對AI未來保持樂觀，並主張企業可以自行承擔AI安全責任；OpenAI則逐步支持強制性的國家安全要求與第三方評估；黃仁勳則主張AI應持續快速發展，同時避免在產品尚未安全成熟時推出。這些立場反映的，是AI產業對風險管理方式仍存在不同判斷，而不是單純的科技發展與安全之間二選一。
隨著AI代理人開始取得更多數位權限，未來真正受到市場檢驗的，可能是企業能否把「安全、隱私、意圖理解與可控性」落實到產品設計之中。9月29日美國政府與科技業者的AI會議，以及後續可能出現的監管政策，將成為觀察美國AI治理方向的重要節點。
FAQ
Q1：祖克柏如何看待AI是否可能危害人類？
祖克柏表示，他對AI未來「相當樂觀」，認為只要企業負責任地開發與部署AI，AI可以為人類帶來益處。
Q2：祖克柏認為AI安全應該由誰負責？
他的觀點是，各家AI實驗室可以針對自身系統面臨的風險負責，不一定需要等待整個AI產業建立全面協調機制。
Q3：Meta如何處理AI安全與隱私問題？
Meta近期推出的Muse採用獨立安全虛擬機器環境，並設置權限控制、敏感操作確認與操作紀錄等機制。
Q4：什麼是Meta Muse？
Muse是Meta推出的個人AI代理人，除了回答問題，也能協助使用者執行電子郵件、網站操作、行程及其他數位任務。
Q5：OpenAI對AI安全的立場是什麼？
OpenAI近期主張建立具強制性的國家AI安全要求，並支持依AI能力進行安全規範、第三方評估及相關監督機制。
Q6：黃仁勳是否支持放慢AI發展？
黃仁勳表示AI應該盡可能快速發展，但同時強調企業不應在產品尚未準備好或不安全的情況下推出產品。
Q7：AI安全目前主要爭議是什麼？
爭議已從AI是否會產生錯誤內容，擴大到AI代理人取得數位權限後的自主行動、隱私、網路安全、模型失配，以及政府是否應建立強制性監管制度。
Q8：9月29日美國AI會議為何受到關注？
川普、眾議院議長Mike Johnson及科技業執行長預計於9月29日討論AI議題，外界關注美國政府與科技產業後續如何處理AI安全與監管問題。
中華超傳媒
(文/ 記者 郭紋雅)