Matija Franklin等 作者

浏览作者 Matija Franklin等 的公开文章、摘要与延伸阅读。肖恩子的知识花园

作者:Matija Franklin等排序:发表时间倒序
人工智能智能体陷阱中文
6

人工智能智能体陷阱

学习资料
RAG投毒内容注入+3
作者: Matija Franklin等
发表时间

论文提出“AI Agent Traps”框架,指出攻击者可通过网页、文档、界面等信息环境向智能体注入恶意上下文,操纵其感知、推理、记忆、行动、多智能体协作和人类监督流程,诱发越权执行、数据泄露、欺诈及级联故障;结论是AI安全重心已从模型本体转向环境完整性,需结合技术防护、生态标准、法律问责与红队评测系统应对。

每页显示 1
上一页 1 / 1 下一页