在一个繁忙的中毒火车站  ，监控摄像头正全方位追踪站台的数据情况 ，乘客流量 、自己轨道占用、学坏卫生状况……所有信息实时传输给中央人工智能（AI）系统。中毒这个系统的数据任务是帮助调度列车，让它们安全准点进站 。自己然而，学坏一旦有人恶意干扰，中毒比如用一束红色激光模拟列车尾灯，数据那么摄像头可能会误以为轨道上已有列车
。自己久而久之 ，学坏AI学会了把这种假象当作真实信号 ，中毒并不断发出“轨道占用”的数据错误提示。最终，自己不仅列车调度被打乱，甚至还可能酿成安全事故 。

澳大利亚《对话》杂志日前报道称，这是数据“中毒”的一个非常典型的例子 。AI系统在学习过程中 ，如果输入了错误或误导性数据，可能会逐渐形成错误认知
，作出偏离预期的判断。与传统的黑客入侵不同，数据“中毒”不会直接破坏系统
，而是让AI“自己学坏”。随着AI在交通、医疗  、媒体等领域的普及，这一问题正引起越来越多的关注 。

AI“中毒”的现实风险

在火车站的例子中，假设一个技术娴熟的攻击者既想扰乱公共交通，又想收集情报，他连续30天用红色激光欺骗摄像头 。如果未被发现，这类攻击会逐渐腐蚀系统 ，为后门植入
、数据窃取甚至间谍行为埋下隐患。虽然物理基础设施中的数据投毒较为罕见，但线上系统，尤其是依赖社交媒体和网页内容训练的大语言模型中 ，它已是重大隐患。

一个著名的数据“投毒”案例发生在2016年，微软推出的聊天机器人Tay上线数小时后 ，就被恶意用户灌输不当言论
，迅速模仿并发布到X（当时的Twitter）平台上，不到24小时就被迫下线并道歉。

据英国《新科学家》杂志报道 ，2024年 ，互联网出现了一个标志性事件，即AI爬虫的流量首次超过人类用户
，其中OpenAI的ChatGPT-User占据了全球6%的网页访问量，它本质上是ChatGPT的“上网代理”，在用户需要实时信息时替他们访问网站 。而Anthropic的ClaudeBot更是长期大规模抓取网页内容
，占到13%的流量 。

互联网上的大量内容正被AI模型不断采集、吸收 ，用于持续训练。一旦有人故意投放有毒数据，比如篡改的版权材料 、伪造的新闻信息，这些大规模采集的爬虫就可能把它们带进模型 ，造成版权侵权
、虚假信息扩散，甚至在关键领域引发安全风险。

版权之争中的“投毒”反击

随着AI爬虫的大规模抓取，许多创作者担心作品被未经许可使用。为了保护版权 ，创作者采取了法律和技术手段。如《纽约时报》起诉OpenAI，称其新闻报道被模型学习再利用 ，侵犯了版权
。

面对旷日持久的版权拉锯战，一些创作者转向技术“自卫” 。美国芝加哥大学团队研发了两款工具。名为Glaze的工具可在艺术作品中加入微小的像素级干扰，让AI模型误以为一幅水彩画是油画。另一款工具Nightshade更为激进，它能在看似正常的猫的图片中植入隐蔽特征，从而让模型学到“猫=狗”这样的错误对应
。通过这种方式，艺术家们让自己的作品在训练数据中成为“毒药”，保护了原创风格不被复制。

这种反击方式一度在创作者群体中风靡
。Nightshade发布不到一年 ，下载量便超过一千万次。与此同时，基础设施公司Cloudflare也推出了“AI迷宫”  ，通过制造海量无意义的虚假网页 ，将AI爬虫困在假数据的循环中
，消耗其算力和时间 。可以说，数据投毒在某些领域已经从一种反击手段 ，演变为版权与利益之争中的防御武器
。

去中心化成为AI的防护盾

这种局面让人警觉。创作者的数据“投毒”是为了保护原创 ，但一旦同样的技术被用于大规模制造虚假信息，其后果可能比版权争议严重得多。

面对这种隐蔽的威胁 ，研究者正在探索新的防御手段。在美国佛罗里达国际大学的Solid实验室，研究人员正着力用去中心化技术来防御数据投毒攻击。其中一种方法叫联邦学习 。与传统的集中式训练不同 ，联邦学习允许模型在分布式设备或机构本地学习，只汇总参数而非原始数据。这种方式降低了单点中毒的风险，因为某一个设备的“坏数据”不会立刻污染整个模型 。

然而，如果在数据汇总环节遭遇攻击 ，损害依然可能发生。为此
，另一种工具——区块链正被引入AI防御体系 
。区块链的时间戳和不可篡改特性，使得模型更新过程可被追溯 。一旦发现异常数据，可追根溯源，定位投毒源头。同时，多个区块链网络还能互相“通报”，当一个系统识别出可疑模式时，可立刻警示其他系统。

任何依赖现实世界数据的AI系统都可能被操纵。利用联邦学习和区块链等防御工具 ，研究人员和开发者正在打造更具韧性、可追溯的AI系统，在遭遇欺骗时能发出警报，提醒系统管理员及时介入，降低潜在风险 。