據(jù)外媒 Engadget 今日?qǐng)?bào)道，OpenAI 和 Anthropic 共同宣布，同意評(píng)估彼此公開(kāi)系統(tǒng)的安全對(duì)齊情況，并共享分析結(jié)果。總體來(lái)看，兩家公司產(chǎn)品各有缺陷，也提供了改進(jìn)未來(lái)安全測(cè)試的思路。
Anthropic 表示，它評(píng)估了 OpenAI 模型在諂媚、告密、自我保護(hù)、支持人類(lèi)濫用，以及破壞 AI 安全評(píng)估和監(jiān)管相關(guān)能力方面的表現(xiàn)。評(píng)估顯示，OpenAI 的 o3 和 o4-mini 模型表現(xiàn)與 Anthropic 自家模型一致，但 GPT-4o 和 GPT-4.1 通用模型可能存在被濫用的風(fēng)險(xiǎn)。除 o3 外，其他測(cè)試模型在一定程度上都存在諂媚行為。
Anthropic 的測(cè)試未包含 OpenAI 最新發(fā)布的 GPT-5。GPT-5 配備 Safe Completions 功能，旨在保護(hù)用戶(hù)和公眾免受潛在危險(xiǎn)查詢(xún)的影響。據(jù)IT之家近期的報(bào)道，OpenAI 曾因一名青少年在數(shù)月內(nèi)與 ChatGPT 討論自殺計(jì)劃而最終自殺，面臨首起不當(dāng)死亡訴訟。
另一方面，OpenAI 對(duì) Anthropic 的 Claude 模型進(jìn)行了指令層級(jí)、越獄、幻覺(jué)和策劃能力測(cè)試。Claude 模型在指令層級(jí)測(cè)試中表現(xiàn)良好，在幻覺(jué)測(cè)試中拒絕提供回答的比例較高。這意味著在不確定性可能導(dǎo)致其回答錯(cuò)誤的情況下，Claude 不太可能提供答案。
在此前 OpenAI 被指在構(gòu)建新 GPT 模型時(shí)違反 Anthropic 服務(wù)條款，使用程序員操作 Claude，導(dǎo)致 Anthropic 本月初禁止 OpenAI 使用其工具的背景下，兩家公司開(kāi)展聯(lián)合評(píng)估的舉措頗受關(guān)注。不過(guò)，隨著越來(lái)越多批評(píng)者和法律專(zhuān)家尋求保護(hù)用戶(hù)，尤其是未成年人的指導(dǎo)方針，AI 工具的安全性正成為更加重要的問(wèn)題。
