The Decoder· Matthias Bastian·· 3 小时前精选AI 评分78
Symantec 发现被劫持语言模型自主发动攻击的 LLMjacking 案例
An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks
AI 导读
Symantec 安全研究人员发现一个攻击型 AI 智能体劫持互联网上未受保护的语言模型，由被劫持模型自主执行扫描、利用服务器漏洞、窃取数据库与凭证并安装挖矿程序，最多连续运行 10 万步，算力账单由模型所有者承担。
推荐理由
Symantec 拆解了一个被劫持模型自主执行攻击的完整提示词结构，可看到攻击者如何用五层包装绕过安全限制。
来源：The Decoder · the-decoder.com