跳到正文

#OpenAI

今日 2 条
6月6日周四
5月30日周四
5月29日周三
5月22日周三
5月21日周二
5月20日周一
5月16日周四
5月15日周三
5月13日周一
5月8日周三
5月7日周二
5月6日周一
5月1日周三
4月29日周一
4月24日周三
4月23日周二
4月20日周六
  1. OpenAI News60

    OpenAI 提出指令层级:训练 LLM 优先处理高权限指令

    OpenAI 发布关于指令层级的研究,指出当前 LLM 容易受到提示词注入、越狱等攻击,攻击者可用恶意提示词覆盖模型原有指令。该研究提出通过训练让 LLM 优先处理高权限指令。

    推荐理由:OpenAI 提出指令层级训练思路,读者可了解模型如何区分不同优先级指令以抵御提示词注入。

4月14日周日
4月5日周五
4月4日周四
4月2日周二
4月1日周一
3月29日周五
3月28日周四