浅谈下污染AI信息源的危害！
大家都知道AI大模型需要大量的数据训练，才能越来越聪明，但是AI本身很难分辨数据的真伪。
虽然喂给大模型的数据会经过一定的清洗，但是清洗也只是让AI能更好的读懂数据，并不能使AI能够明辨是非，这就是通常所说的AI出现“幻觉”。
AI本身出现“幻觉”从技术上来说是很难克服的，很容易被有心人利用这个漏洞，理论上来说，如果网络上有“人”刻意大量发布虚假和造谣的文章，并且被大量的“人”刻意引用的话，AI生产虚假和造谣内容这是必然的事，看最近出现的一些事大家就明白了。
上面的人为什么打上双引号？其实这些人有可能就是黑公关公司手上掌握的“数字生命”，有买卖就会有伤害，恶性商业竞争，就会出现诋毁对手的恶劣手段。
直接下场的，是最低级的，高明的手法是，雇佣黑公关，既达到“量大管饱”，又片叶不沾身，这不是两全其美？
比较恐怖的是，技术为黑公关赋能，黑公关早已不满足主板机的“数字生命”，而是接入AI，生产大量虚假和造谣内容，让很多真实用户真假难辨。
如果有对AI搜索依赖度很高的人，就有可能会被这些虚假和造谣内容所误导，或者有人刻意引导AI搜索到虚假和造谣内容，再截图发布到网络上形成“二次伤害”。
所以污染AI信息源的危害可想而知！
