• logo

川習談妥軍事AI人類掌控原則!貝森特揭重大軍事行動不得交由AI自主決定

美國財長貝森特透露,美國總統川普與中國國家主席習近平在深圳APEC會談期間,對軍事人工智慧使用達成一項重要共識:即重大軍事行動必須有人類參與決策,不得完全交由人工智慧自主執行。圖/翻攝自 CNBC Television YT頻道
美國財長貝森特透露,美國總統川普與中國國家主席習近平在深圳APEC會談期間,對軍事人工智慧使用達成一項重要共識:即重大軍事行動必須有人類參與決策,不得完全交由人工智慧自主執行。圖/翻攝自 CNBC Television YT頻道

中美科技競爭持續升溫之際,美國財長貝森特(Scott Bessent)透露,美國總統川普(Donald Trump)與中國國家主席習近平在深圳APEC會談期間,對軍事人工智慧(AI)的使用達成一項重要共識:重大軍事行動必須有人類參與決策,不得完全交由人工智慧自主執行。貝森特形容,這是川普此次亞洲行的重要成果之一,顯示即使美中激烈競逐AI領先地位,雙方仍有必要在軍事應用風險上建立共同底線。

根據《南華早報》報導,貝森特在結束隨川普訪問亞洲行程後,接受美國財經媒體CNBC訪問時透露,習近平與川普已就軍事AI的使用原則取得共識。他表示,兩國領導人認同,任何涉及人工智慧的軍事決策,都應該有人類參與;AI不應被允許在重大軍事行動中自主運作。

貝森特強調,這項原則不應受到美中AI技術競爭影響。他表示,無論兩國在AI領域的競爭多麼激烈,雙方都同意,任何重大軍事行動都不應在沒有真人參與的情況下發動。

重大軍事行動不得由AI自主發動 美中建立安全底線

路透也引述貝森特的談話指出,他在CNBC訪問中使用川普政府偏好的「超級智慧」(Super Intelligence,SI)一詞,說明這項共識的核心,就是人類必須保有軍事決策的最終參與權,不能讓AI系統在重大軍事行動中自行決定是否採取攻擊。

這項議題之所以受到關注,在於AI技術正快速進入軍事領域,從情報分析、目標辨識、戰場監控,到無人武器及軍事指揮系統,都可能運用AI提升反應速度與作戰效率。然而,當系統能夠自主分析情勢、選定目標,甚至進一步執行攻擊,一旦出現誤判、資料錯誤或系統失控,可能在極短時間內引發難以挽回的軍事衝突。

尤其美中都是具備核武能力的主要大國,軍事AI若被整合進核武預警、指揮及決策流程,更涉及戰略誤判與危機升高風險。人類是否必須保留最終決策權,已成為國際社會討論軍事AI治理的重要課題。

貝森特說,川普與習近平會談時,雙方曾就如何遏止核武擴張進行深入討論。這與軍事AI決策原則雖是不同議題,但都反映出科技發展與大國軍事安全之間日益緊密的關係。

AI競爭不影響軍事安全合作 美方仍強調維持技術領先

貝森特指出,美中在AI領域的競爭,不應妨礙雙方針對軍事使用建立安全保障。他強調,美國AI實驗室仍必須維持技術領先,認為這是防範中國危險AI模型及相關網路攻擊的重要方式。

他也談到美國對中國AI晶片出口管制,表示在川普採取強硬立場後,輝達(Nvidia)H200晶片仍是中國在取得許可後能購買的最先進晶片,但中國方面目前訂單不多,正努力建立自己的晶片供應體系。他認為,中國在相關技術上仍落後美國多年。

南華早報說,這凸顯中美在AI領域呈現競爭與風險管控並行局面:一方面,雙方都希望掌握下一代AI技術優勢;另方面,當AI逐漸進入軍事指揮與武器系統,如何避免機器自主決定重大軍事行動,已成為兩國不得不面對的共同安全問題。

值得注意的是,中方在相關會談表述也提到,應加強溝通協調、防範人工智慧安全風險,確保AI始終處於人類控制之下。這與貝森特所透露的共識方向相互呼應。