跳到正文

#安全/对齐

今日 1 条
8月27日周四
  1. Google DeepMind45

    Google DeepMind 试点全球首个双盲 AI 评测

    Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测,将外部评测限制在密码学环境中,避免模型提前接触测试题。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境下用保密基准测试一个 Gemini Flash Lite 模型,以提升评测可信度。

    推荐理由:Google DeepMind 联合多方用密码学环境做双盲评测,读者可了解基准污染问题的一种技术解法。

8月26日周三
8月25日周二
8月20日周四
8月18日周二
8月17日周一
8月10日周一
8月7日周五
8月6日周四
8月5日周三
7月31日周五
7月21日周二
7月20日周一
7月17日周五
7月16日周四
7月15日周三
  1. OpenAI News50

    OpenAI 发布自动红队系统 GPT-Red

    OpenAI 发布自动红队系统 GPT-Red,通过自博弈方式提升 AI 安全、对齐以及提示注入鲁棒性。该系统面向自动化红队测试场景,用于发现和改善模型的安全问题。

    推荐理由:OpenAI 公开自动红队系统 GPT-Red,读者可了解自博弈如何用于提升提示注入鲁棒性。

7月9日周四
6月26日周五
6月23日周二
6月22日周一
6月16日周二
  1. Google DeepMind60

    Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 AI 智能体安全

    Google DeepMind 发布 AI Control Roadmap,一套用于构建和管理 Google 内部部署的高级 AI 的框架,采用纵深防御思路,在模型对齐之外增加系统级安全层,即使对齐不完美也能提供保障。

    推荐理由:DeepMind 公开内部 AI Control Roadmap,给出检测与响应分级和百万条编码智能体轨迹的分析结论。

6月10日周三
6月8日周一
6月4日周四
6月2日周二
6月1日周一
5月29日周五
5月28日周四
5月27日周三
5月19日周二
5月16日周六
5月14日周四