①Anthropic首席執(zhí)行官達里奧·阿莫迪表示，該公司無法在AI安全保障爭議中滿足五角大樓的要求； ②五角大樓希望Anthropic解除限制，允許軍方將該模型用于“所有合法用途”，而Anthropic認為人工智能的可靠性不足以操控武器，且無法律法規(guī)來規(guī)范其在大規(guī)模監(jiān)控中的應(yīng)用。
財聯(lián)社2月27日訊（編輯 黃君芝）美國人工智能初創(chuàng)公司Anthropic首席執(zhí)行官達里奧·阿莫迪周四表示，盡管五角大樓威脅要將該公司從國防部的系統(tǒng)中移除，但該公司無法在人工智能（AI）安全保障爭議中滿足五角大樓的要求。
據(jù)悉，五角大樓之前與Anthropic簽訂了一份價值2億美元的合同，而雙方目前爭議的焦點在于后者為其人工智能模型Claude設(shè)置的種種限制。
一方面，五角大樓希望Anthropic解除限制，允許軍方將該模型用于“所有合法用途”。而另一方面，Anthropic始終認為，人工智能的可靠性不足以操控武器，而且目前還沒有任何法律法規(guī)來規(guī)范人工智能在大規(guī)模監(jiān)控中的應(yīng)用。
阿莫迪周四表示，美國國防部已明確表示，只會與同意“任何合法用途”并取消安全措施的人工智能公司簽訂合同。但Anthropic與該部門簽訂的合同中從未包含大規(guī)模國內(nèi)監(jiān)控和完全自主武器等AI應(yīng)用案例，“我們認為現(xiàn)在也不應(yīng)該包含這些案例”。
據(jù)一位五角大樓官員此前透露，Anthropic必須在周五下午5點01分之前“要么同意，要么拒絕”。如果該公司不同意，美國國防部長皮特·赫格塞斯將確保“對Anthropic公司援引《國防生產(chǎn)法》，強制五角大樓使用其產(chǎn)品，無論該公司是否愿意”。
這位官員還表示，赫格塞斯還將把Anthropic公司列為“供應(yīng)鏈風(fēng)險”。
對此，阿莫迪回應(yīng)稱，“盡管如此，這些威脅并不會改變我們的立場：我們不能昧著良心答應(yīng)他們的要求?！?/strong>
當(dāng)天早些時候，五角大樓發(fā)言人肖恩·帕內(nèi)爾表示，國防部對使用AI對美國人進行大規(guī)模監(jiān)視沒有興趣，也不想使用人工智能開發(fā)無需人類參與即可運行的自主武器。
“我們要求的是：允許五角大樓將Anthropic的模型用于所有合法用途?！彼a充道。
阿莫迪還稱，“選擇與國防部愿景最契合的承包商是國防部的特權(quán)。但鑒于Anthropic公司的技術(shù)將為我們的武裝部隊帶來的巨大價值，我們希望他們重新考慮?！?/p>
“如果國防部選擇終止與Anthropic的合作，我們將努力確保順利過渡到其他供應(yīng)商，”他補充道。
Anthropic的一位發(fā)言人也表示，該公司仍然“準備繼續(xù)談判，并致力于保障國防部和美國作戰(zhàn)人員的行動連續(xù)性”。
圖片
