人工智慧（AI）競賽高速升溫之際，美國科技業內部卻出現罕見的「踩煞車」聲音。Anthropic執行長達里奧・阿莫迪（Dario Amodei）近日公開呼籲，前沿AI模型的發展速度應適度放緩，讓安全機制與監管能力有時間跟上。OpenAI執行長薩姆・奧特曼（Sam Altman）以及xAI創辦人馬斯克（Elon Musk）也先後對相關主張表示支持。

這場爭論已不只是科技公司的安全問題，更牽動美中AI競爭。當美國部分AI領袖擔憂技術進步速度超越人類控制能力時，中國同樣強調AI安全，卻更傾向「邊發展、邊治理」，而非單純降低技術發展速度。

美國AI巨頭示警：技術跑得比安全機制更快

阿莫迪的核心主張並非停止AI研發，而是認為最先進AI模型的能力提升過快，產業需要讓安全評估、第三方監督與治理制度追上技術進展。

他提出包括引入獨立安全評估人員、建立前沿AI企業共同安全標準，以及推動國際合作等構想。奧特曼與馬斯克隨後也表態支持放慢前沿AI能力的推進速度。

這種罕見共識反映出，美國AI產業內部對於高度自主AI代理、網路攻擊、生物安全以及AI自我改進等潛在風險的憂慮正在升高。

然而，「放慢AI」一旦放到全球競爭的背景下，問題就變得更加複雜：如果美國企業降低速度，中國企業是否也會同步放慢？

中國也談AI風險，但重點是「安全可控」

中國並非沒有注意到AI失控與濫用風險。

中國政府近年持續加強生成式AI、深度偽造、AI生成內容以及演算法等領域的治理。最新公布的《人工智能安全治理框架3.0》，進一步將智能體、具身智能等新型風險納入治理範圍，強調「以人為本」、「安全可控」，並提出風險分類、技術應對及綜合治理措施。

換句話說，北京的思路並不是忽視AI風險，而是希望在持續發展技術的同時建立控制與監管機制。

這與美國部分科技人士討論的「AI是否可能威脅人類生存」有所不同。中國目前的政策討論更集中於AI是否可控、是否遭到濫用，以及它可能對社會、經濟、就業、網路安全與國家安全造成哪些實際影響。

中國更難接受「全面踩煞車」

對北京而言，AI不只是科技問題，也是經濟發展的重要引擎。

在中國經濟尋找新成長動能之際，AI已被廣泛導入製造、醫療、交通、農業、金融與機器人等產業。阿里巴巴、騰訊、百度、字節跳動，以及DeepSeek、MiniMax、月之暗面、智譜等企業，都在持續投入大型模型與AI應用。

因此，中國面臨的是雙重任務：一方面必須防止AI帶來新的安全與社會風險，另一方面又不能因監管過度而失去新一輪科技革命與產業升級的機會。

從這個角度來看，「控制風險」與「停止或大幅放慢AI發展」在北京眼中是兩件不同的事情。

最大障礙還是美中科技競爭

真正讓全球AI「共同減速」變得困難的，是美中之間日益激烈的科技競爭。

AI已被華府與北京同時視為影響經濟實力、軍事能力、科技自主及國家安全的重要戰略技術。只要任何一方擔心自己放慢腳步後，另一方會趁機取得領先，就很難建立具有約束力的共同減速機制。

這也形成AI治理最棘手的「安全困境」：雙方可能都認為AI發展過快存在風險，卻又都擔心自己率先減速會付出戰略代價。

尤其阿莫迪過去曾主張限制中國取得最先進AI晶片與相關技術，使中國方面更容易把美國企業提出的「放慢AI」倡議，放在科技封鎖與美中競爭的大背景下解讀。

「一起放慢」很難，「一起防失控」仍有空間

儘管如此，美中在AI安全領域並非完全沒有合作空間。

相較於要求雙方限制模型能力或研發速度，防止AI被用於網路攻擊、生物武器、詐騙、關鍵基礎設施攻擊，以及避免高度自主AI系統失去人類控制，可能更容易形成最低限度的共同利益。

換言之，美中短期內要共同承諾「AI發展減速」難度很高，但在防止最危險用途、建立安全測試標準，以及維持人類對AI系統最終控制等領域，仍可能存在對話空間。

AI競賽進入「既怕太快、又怕落後」時代

這場爭論揭示全球AI競賽的一個根本矛盾：科技公司與政府一方面擔心AI進步太快，可能超越現有監管甚至人類控制能力；另一方面，又害怕自己率先踩下煞車，讓競爭對手取得優勢。

美國部分科技巨頭現在提出「放慢速度」，中國則更強調「發展與治理並行」。兩者其實都承認AI存在風險，但對於應該如何控制風險，以及願意為安全犧牲多少發展速度，仍存在明顯差異。

因此，未來真正的問題可能已不是「AI要不要發展」，而是：在沒有人願意輸掉AI競賽的情況下，美中能否找到一套雙方都願意遵守的安全底線？

本文由華人工商資訊組編輯整理，並使用 AI 工具協助潤飾，內容經人工查證與審核／本圖由 AI 協助生成