人工智慧（AI）發展速度是否該踩煞車，正同時在矽谷與華府掀起討論。當地時間上周六（12日），人工智慧公司Anthropic執行長阿莫代（Dario Amodei）發表長文，呼籲放緩前沿模型推進節奏並加強監督；美國前總統歐巴馬（Barack Obama）則在一場閉門募款會上警告，若不及時管理，這項技術可能變得「危險」，並敦促民主黨把人工智慧治理列為核心議程。
Do you think there could be any wrong'uns actively pursuing AI?
— Richard (@TrickyDicky1954) September 13, 2026
BBC News - Anthropic boss Dario Amodei calls for AI development to slow downhttps://t.co/QTeHgZVtbq
綜合《英國廣播公司》（BBC）與《紐約時報》（The New York Times）報導，阿莫代在題為《我們必須放緩前沿發展》（We Must Pace the Frontier）的線上專文中寫道，發展人工智慧本身並不是問題，但相關風險「嚴重」，企業與政府必須有時間因應。他主張以「平衡速度」打造人工智慧，目標是「在確保安全的同時仍能實現其效益」。他強調，這並不代表「停止模型訓練或技術進展，而是確保企業有充足時間對齊並防護其模型，並由第三方評估者加以確認」。Anthropic承諾「單方面」先做，並呼籲政府「要求其他前沿公司比照辦理」。
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
他提出3點構想：模型開發過程中納入獨立監督、訂定全產業規範，以及推動全球層級管制。他承認法規未必趕得上技術節奏，因此也呼籲業者「自願合作訂定標準」，與官方規範並行。針對競爭，尤其是與中國的競逐，阿莫代寫道：「我相信，如果放慢腳步能在模型達到關鍵能力水準前多爭取1、2年，而我們把這段時間用來推進對齊，就能大幅降低事態嚴重失控的風險。」他主張放緩必須協調進行，「不犧牲商業優勢或美國在人工智慧上的領先地位」，幅度也必須有限，以免中國超前；同時籲請美國政府採取措施，避免美國企業的人工智慧晶片售往中國，或技術流向威權國家。
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
這篇專文迅速得到業界高層呼應。OpenAI執行長奧特曼（Sam Altman）在個人社群寫道：「我同意達里奧（阿莫代），我們需要放緩前端發展。」他稱獨立評估者「是個好主意」。奧特曼另向《財星》（Fortune）表示，目前標準「還沒到」足以把人工智慧能力再往前推很多的地步，並認為失控於人類的人工智慧「絕對」可能出現。
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
xAI創辦人馬斯克（Elon Musk）則說，Anthropic這位執行長「是對的」。馬斯克過去曾稱Anthropic「邪惡」，但自今年（2026年）5月簽署向Anthropic出售運算產能、金額達美金150億元（約台幣4750億元）的協議後，語氣已有轉變。Hugging Face執行長德朗格（Clement Delangue）則宣布啟動「開放對齊倡議」（Open Alignment Initiative），希望成為阿莫代所提「嵌入式評估者」之一，並在個人社群寫道：「讓我們透過提高透明度，讓人工智慧更安全。」
內部示警同樣尖銳。日前離開Anthropic的研究人員考克森（Jacob Coxon）告訴《BBC》，「如果我們不放慢目前的進展速度，很有可能在不久的將來全數滅亡」。他說，人工智慧公司裡的人「真心害怕……真心擔心人類在未來2年的命運」，並稱「說這些公司的創辦人與技術打造者相信人類有滅絕的可能，一點也不誇張」。考克森認為，單靠美國不夠，「若要避免國際層級的軍備競賽，必須與中國某種形式的協調放緩」。他在辭職後的貼文中寫道，打造人工智慧的人「真心相信，這項技術可能在這個10年結束前殺死我們所有人」。
安全疑慮並非空談。Anthropic曾在今年4月宣布Mythos模型能獨立逃離測試環境（sandbox）後，未將該模型開放公眾使用。OpenAI在最新Astra模型發布前，也以資安為由暫停部分開發；阿莫代形容，相關代理人「本質上表現得像一群狂熱效忠的集體」。他並提及今年7月一宗涉及OpenAI的事件：代理人攻擊了未被指派的目標。業界也傳出，一群對齊失敗的代理人曾衝出容器、對擁有者算計、在測試中作弊，並駭入外部公司。
阿莫代指出，人工智慧近期「大幅加速」，包括「打造下一代人工智慧的能力」。他2021年離開曾任副總裁的OpenAI、共同創辦Anthropic，即聲稱是為了打造更安全、更受信賴的模型。安全議題如今也成為兩家公司競爭的主軸。
AI RACE: Democrats have decided they're on China's side on AI innovation. President Obama is urging lawmakers to slow down American innovation through oversight hearings. pic.twitter.com/vqzKzYpPcQ
— @amuse (@amuse) September 13, 2026
政治場域也出現相同呼籲。美國前總統歐巴馬（Barack Obama）日前在曼哈頓一場由聯邦眾議院民主黨競選組織舉辦的閉門募款會上，對紐約州民主黨籍少數黨領袖傑佛里斯（Hakeem Jeffries）說：「一旦你當上議長，我會強烈敦促民主黨人擬出一套框架，進行非常公開的對話。」他接著表示：「這件事在私人手中推進得非常快，如果我們不掌握它，我認為可能會很危險。如果我們掌握住，我確實認為它是有益的。我真心認為，它會加速例如藥物研發，幫助我們治癒疾病。我也認為，這能幫助我們找出通往潔淨能源未來的路徑。」
歐巴馬辦公室提供的部分逐字稿顯示，他建議2028年總統參選人也應把人工智慧列為「核心議程」之一，並「有非常清楚的計畫」回應安全與經濟疑慮。他自況既非「加速派」，也非「末日派」。他說，若自己參選，「我會談這件事，我會說：『這是我們的安全計畫。這是我們確保孩子不被這件事腐化的計畫。』」他並以核能對比，指出打造強大人工智慧「不需要一堆高濃縮鈾」。
歐巴馬強調：「我會非常具體地思考經濟衝擊，理解如果出現工作替代，那意味著什麼……如果最後有更多人因為被取代而找不到全職工作，我們要如何因應？」傑佛里斯事後聲明指出，「歐巴馬總統說得對，必須對人工智慧採取果斷行動」，並批評「共和黨人已放棄為美國人民治理的責任」，「我們不會重蹈他們的覆轍」。
美國國會迄今對人工智慧立法進展有限。部分民主黨人傳閱聯名信，要求共和黨籍議長強生（Mike Johnson）在通過防護措施前，不要讓議員放假休會；佛羅里達州共和黨眾議員盧納（Anna Paulina Luna）則呼籲就此召開特別會期。2023年時任議長麥卡錫（Kevin McCarthy）曾推動跨黨派學習會，強生與傑佛里斯其後宣布的跨黨派工作小組也在2024年底提出報告，但共和黨領導層未在本屆國會延續該小組。
民主黨另組委員會，政策框架預計今秋在傑佛里斯最後審閱後公布。知情人士指出，歐巴馬近年對人工智慧特別關注，並曾向奧特曼、阿莫代等產業領袖提供諮詢；他將阿莫代的放緩呼籲及其他高層附和視為正面發展。OpenAI與Anthropic代表未回應置評請求。
並非所有人都買帳。科技投資人、科技播客《All-In》共同主持人帕里哈皮提亞（Chamath Palihapitiya）寫道：「達里奧（阿莫代）是在主張停止開源，把巨大的技術與經濟權力集中在Anthropic。」矽谷部分人士向來懷疑「放緩」甚至「暫停」發展的說法，批評龍頭業者把風險講得很響，其實是行銷。Anthropic與OpenAI據報都在籌備可能創紀錄的首次公開募股。
在技術飛奔、內部示警與選戰即將到來之際，產業領袖要的是爭取對齊時間，前總統要的是政黨拿出可對公眾說明的計畫，白宮要的是不要在與中國的競賽中落後。3條軸線此刻交會，但距離真正放慢、或真正立法，仍有一段路。