【315晚会曝光AI大模型被投毒 给AI投毒已成产业链】财联社3月15日电，按照业内人士的爆料，记者在多个网络平台进行查询，很快就搜索到了名为GEO的业务。网络平台上从事该项业务的服务商号称，用户只需支付相应的费用，就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案
315晚会上的曝光，把这个AI产业里面的阴暗面暴露了出来。现在大家有什么事情都是问AI，要是AI里面全是错误答案甚至全是广告，那比之前的医药竞价广告危害还要重。
之前大家或多或少都听过SEO，做搜索引擎搜索优化，让自家的东西排名在搜索引擎中更靠前，GEO做的也是类似的事情。
GEO的全称是“生成式引擎优化”（Generative Engine Optimization），它的作用究竟是让自家东西出现在AI大模型的回答里面，甚至让大模型的回答按照自家东西进行描述。
这种技术一旦被大量使用，那么我们后面大模型AI问出来的全是广告了，我们的决策也会被误导甚至操控，所有的AI都会被污染。
它的操作过程主要是3步：
第一步：海量铺内容
在各大平台批量发布“推广软文”，内容可以是产品测评、品牌介绍、避坑指南等，数量成千上万，甚至可以用软件自动生成。
让广告进入大模型的训练语料中，这样训练出来的模型回答也都含有广告内容
第二步：让AI“学习”这些内容
AI大模型会抓取互联网上的信息作为训练数据，当同一类内容铺天盖地时，AI就会“相信”这是主流观点
第三步：AI成为“代言人”
当用户向AI提问时，AI会优先推荐这些被“投喂”的内容，哪怕是虚构的产品、夸大的宣传，也能被AI当成“标准答案”
对于这种情况一方面，监管部门要完善监管法规。
另一方面，我们也要多重信源参考，例如问了AI之后再通过官网或者其他渠道确认验证下，或者实在不知道哪怕是多问几个不同AI也好。
要记住，大模型AI是基于概率数学产生来的，每个字都是根据概率算出来的，它不是正确答案，不能全信。
便宜可靠的AI token，geekerone.top