跳到正文
原文
Solidot·· 27 天前精选AI 评分62

Anthropic 举报一名在 Claude 聊天中发出威胁的佛罗里达女子

Anthropic 举报了与 Claude 聊天中发出威胁的佛罗里达女子

AI 导读

Anthropic 举报了一名佛罗里达女子,因其在与 Claude 聊天中威胁要枪击 Lee 县警长办公室,并在后续聊天中提及自己正在搞一把新枪。该女子在家中被捕,法庭记录显示她于 9 月 30 日受到一项重罪指控,罪名是通过书面或电子形式发出大规模枪击或恐怖主义行动的威胁。

推荐理由

案件披露了 Anthropic 对聊天内容的威胁关键词监控与人工审核上报流程,可了解 AI 平台安全审查的实际运作。

来源:Solidot · solidot.org