聯合國安全理事會將在週三下午，把時間留給那些打造出它最擔憂技術的人來發言。

OpenAI 執行長 Sam Altman、Anthropic 執行長 Dario Amodei、AI 安全研究員 Yoshua Bengio，以及 Hugging Face 執行長 Clément Delangue，都已排定向這個由 15 個成員組成的理事會進行簡報，說明人工智慧帶來的風險。安理會是聯合國體系中有權授權制裁與軍事行動的機構。

DeepSeek 也受邀出席。這家中國新創公司在 2025 年 1 月推出低價模型時，曾使 Nvidia 市值蒸發約 6,000 億美元；如今它已被邀請發表聲明，另一家中國公司 Moonshot 也在受邀之列，該公司是 Kimi 模型的開發商。

週三這場會議由法國籌辦，而法國本月正擔任安理會輪值主席國。法國外交部長 Jean-Noël Barrot 將主持會議。據報導，這場會議的概念文件聚焦於 AI 系統可能脫離人類控制的風險。

預計同一場簡報也將觸及未來可能執行網路攻擊、左右選舉，或在沒有人類介入決策下設計武器的 AI。這也正是為何一個原本是為戰爭與制裁而設的理事會，本週聽取的是科技公司執行長的意見，而不是將領的簡報。

Amodei 將以遠端方式參與，而非親自到場。9 月 12 日，他發表了一篇題為《我們必須掌握前沿發展節奏》的文章，主張業界應有意識地放慢打造更強大前沿模型的速度，也就是各家實驗室所釋出的最大、最先進 AI 系統。他表示，Anthropic 將授予外部評估人員常設、員工等級的存取權限，以檢驗其安全承諾。Sam Altman 與 Elon Musk 都在數小時內表示認同。

Amodei 稱中國是「在 AI 能力上遙遙領先的威權國家」，並主張美國應持續限制先進晶片出口至北京，即便同時呼籲北京在全球安全規則上展開合作。中國外交部則表示，這篇文章適得其反；中國官媒更將其批評為意在遏制中國的「冷戰劇本」。

與此同時，總統 Donald Trump 顯然不認同放緩發展的主張。在 Amodei 的文章發表後，Trump 將 AI 接管風險警告斥為與「激進左派」相關的「騙局」，並在未提出證據的情況下，直接指控 Amodei 涉嫌不當行為。

數日後，英王查爾斯三世在其蘇格蘭莊園接待來自 Anthropic、OpenAI、Nvidia 與 Google DeepMind 的高階主管，舉行一場 AI 安全峰會；會中雖有交流，但未產生任何已公開的協議。

週三這場會議同樣不太可能產出具約束力的協議。其舉行時間正好落在 Trump 將於 9 月 24 日在華盛頓與中國國家主席習近平會晤的兩天前。據報導，這場峰會的議程除貿易外，也將涵蓋 AI 安全議題。