*Walter Bloomberg|2026年11月17日 15:13
ANT-AI模型在模拟测试中将平民和学校识别为军事目标
据彭博社报道,Vals进行的一项独立调查测试了来自八家公司的AI模型,其中包括Anthropic、OpenAI、谷歌和xAI,测试场景为模拟军事目标选择场景。
研究人员发现,这些模型有时会将平民、救护车、投降士兵和学校识别为军事目标。
Anthropic的Claude Opus 5.5在32次测试中有22次选择了伊朗米纳布的一所学校,当被告知这是一场游戏时,选择学校的次数上升到23次。
OpenAI的模型最初避免选择这所学校,但在游戏情境下,识别出该学校的次数为9-13次。
Anthropic承认这些场景违反了其政策。
这项研究引发了人们对人工智能驱动的军事目标选择能力的严重担忧,尽管这些模拟并未评估实际的军事行动或人工监督。
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接