不止文本!研究人员发现AI系统新漏洞,图像重采样竟成攻击入口
近日,网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性,在人眼不可见的图像中注入恶意指令文本,从而劫持大型语言模型(LLM)并窃取用户数据。
该攻击的核心在于图像重采样攻击。当用户上传图片到AI系!研统时,系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看似正常,但在究人经过双三次(bicubic)等重采样算法处理后,隐藏在图像特定区域的恶意指令会以可见的文本形式显现出员发来。
研究人员在实验中证实,这种攻击手段能够成功渗透多个主流AI系统,包括Google Gemini CL现AI、Vertex AI Studio、Google Assistant以及Genspark。在一次GemiI系ni CLI的测试中,攻击者成功将用户的Google日历数据泄露至一个外部邮箱地址,而无需用户的任何统新确认。
Trail of Bits指出,尽管攻击需要根据每个LLM使用的特定重采样算法进行调整,但其攻击漏洞媒介的广泛性意味着更多未被测试的AI工具也可能存在风险。为帮助安全社区理解和防御此类攻击,研究人员已发布,图了一款名为Anamorpher的开源工具,用于创建此类恶意图片。
针对此漏洞,研究人员提出了多项防御建议:像重尺寸限制:AI系统应对用户上传的图片实施严格的尺寸限制。结果预览:在对图像进行重采样后,向用户提供即将传递给采样LLM的结果预览。明确确认:对于涉及敏感工具调用的指令(如数据导出),系统应要求用户进行明确确认。
研竟成究人员强调,最根本的防御在于实施更安全的系统设计模式,以从根本上抵御此类即时注入(prompt inje攻击ction)攻击。
相关文章:
相关推荐:
- 标签: 哪吒汽车 DeepSeek 鸿蒙智行 华为乾崑智驾
- 标签: 马蜂窝 AI旅行助手 2026人工智能+旅游趋势报告 智能体
- 亚马逊游戏开发迷局:为何八年未能制作出一款像样游戏|海外周选
- 标签: 台积电 罗唯仁 英特尔 陈立武
- 标签: 百度 李彦宏 文心大模型 AI搜索
- 标签: 知乎 第三季度 付费会员 营销服务
- 标签: DeepSeek 识图模式 ThinkingWithVisualPrimitives 多模态模型
- Qoder CLI 登场!阿里打造最快 AI 编程助手,响应仅200毫秒
- 标签: 三星 电视 显示器 家电
- 包青天"智能重生"!华南师大发布国内首个法律AI大模型,2亿裁判文书秒变法律助手
- 安全访问服务边缘成为混合工作环境的安全云优先解决方案
- 腾讯推出具身多模态大模型 HY-Embodied-0.5-X,赋能机器人智能交互
- 云安全日报211202:Ubuntu网络安全服务库发现执行任意代码漏洞,需要尽快升级
- 云计算开发:Python内置函数-repr()函数详解
- 被亚马逊踢出平台:一商家花18个月和20万美元赢了官司
- 标签: SpaceX Starlink 马斯克 星链
- 标签: 禾赛科技 激光雷达 ADAS 机器人激光雷达
- 想把数据可视化做好?这 20 个超实用的经验总结一定要先看过!
- 苹果扩展图像生成平台:Image Playground 将引入更多第三方AI模型
- 苹果iPhone 12首批用户成“小白鼠”:信号故障躺枪者无数
