Anthropic 警告 AI 安全評分恐誤導大眾 遊說白宮限縮模型引科技巨頭圍剿

美國人工智慧新創 Anthropic 日前針對業界普遍採用的安全評估標準提出警示，指出當前的人工智慧模型安全基準（Benchmarks，即用來衡量模型是否具備危險行為或漏洞的標準化測試題庫）評測機制可能誤導大眾，並直言「要建立一套良好的評測指標極其困難」。

這項對安全評估機制的保留態度，正值 Anthropic 與矽谷同業關係高度緊繃之際。《紐約時報》（The New York Times）報導，Anthropic 共同創辦人兼執行長達里奧·阿莫代（Dario Amodei）積極遊說白宮，呼籲政府限制開發並分享特定具有潛在危險性的人工智慧模型。這項遊說行動在科技界引發強烈反彈，包括微軟（Microsoft）與輝達（Nvidia）等大廠皆認為，受到限縮的模型本身潛藏龐大商業商機，對 Anthropic 試圖築起監管門檻的立場深感不滿。

為了反制 Anthropic 的限縮呼籲，微軟執行長納德拉（Satya Nadella）與輝達創辦人兼執行長黃仁勳於 7 月底共同發起連署，主張人工智慧模型應維持開放。這份科技業支持開放 AI 權重公開信最初獲得兩打企業加入，在一週內迅速擴大，吸引包括 OpenAI 在內超過 200 家科技企業聯名簽署。

同業對 Anthropic 的不滿在於，該公司一方面打造出全球效能頂尖的人工智慧系統，另一方面卻不斷對外警告這些技術帶來的極端風險。部分業界高層認為，Anthropic 採取了過於激進的商業策略，包括切斷部分客戶權限，並向政府遊說打壓免費的開源替代方案。

Anthropic 預計於 11 月下旬推動首度公開發行（IPO），市場看好這將成為規模最大的上市案之一。隨著上市時程逼近，該公司如何在堅持自身安全評測標準與應對整個科技產業的圍剿之間取得平衡，成為市場焦點。