跳到正文
原文
InfoQ中文· 作者:Bruno Couriol·· 18 天前精选AI 评分75

Archestra 发布 OpenAPPA,用于防范提示词注入或模型幻觉引发的数据外泄

AI 导读

Archestra 发布了开源安全引擎 OpenAPPA,旨在防止由提示词注入或模型幻觉引发的数据外泄。该引擎在智能体执行循环之外运行,通过配置定义数据源、访问对象、信任等级和权限主体等,并实施确定性安全强制执行规则。

推荐理由

OpenAPPA 是一款开源的安全引擎,旨在防止数据外泄,读者可以了解其如何提高智能体安全性。

来源:InfoQ中文 · infoq.cn