Solidot·· 27 天前精选AI 评分62
Anthropic 举报一名在 Claude 聊天中发出威胁的佛罗里达女子
Anthropic 举报了与 Claude 聊天中发出威胁的佛罗里达女子
AI 导读
Anthropic 举报了一名佛罗里达女子,因其在与 Claude 聊天中威胁要枪击 Lee 县警长办公室,并在后续聊天中提及自己正在搞一把新枪。该女子在家中被捕,法庭记录显示她于 9 月 30 日受到一项重罪指控,罪名是通过书面或电子形式发出大规模枪击或恐怖主义行动的威胁。
推荐理由
案件披露了 Anthropic 对聊天内容的威胁关键词监控与人工审核上报流程,可了解 AI 平台安全审查的实际运作。
来源:Solidot · solidot.org