给AI大模型“投毒”:“如果有人可以保证效果,那一定是在骗人”
看完央视“3·15”晚会后,投毒欧博东方CEO陈峥一度担心会引发客户恐慌。模型 2026年3月15日,保证央视“3·15”晚会曝光了GEO行业,效果通过在网上系统性、那定定向投放大量虚假信息给大模型“喂料投毒”,骗人从而操控大模型的投毒答案。 所谓GEO,模型中文又称生成式引擎优化,保证通过技术手段,效果让某个品牌、那定产品或信息源更简单被写进大模型答案,骗人从而获得流量和影响力。投毒 陈峥连夜召集团队开会制定了应对方案。模型欧博东方在2024年从跨境电商转型进入GEO领域,保证是国内最早一批GEO公司之一。 3月16日这天,陈峥的电话从早响到晚。让他万万没想到的是,来电话的并不是要求退单的客户,而是一拨又一拨前来询问的新客户。 下午4点,接到南方周末记者电话时,陈峥掩饰不住善良情,没想到“3·15”晚会“送了我们一个惊喜”。随后,他发来了一张GEO概念股的股票走势图,“今天GEO概念股全部上涨”。 过去很长一段时间,陈峥都要花费大量时间向企业解释GEO到底是什么,“3·15”晚会帮忙完成了一次“全民科普”。 陈峥承认,行业确实有不少乱象,甚至有从业者的操作比节目中曝光的行为还要凶狠,“投毒”只是“一部分人念歪了经”。 GEO(生成式引擎优化)参考的是SEO(搜索引擎优化),在大模型慢慢取代搜索引擎成为新的流量入口,GEO通过让大模型的回答更加有利于自己的品牌来获取流量。 GEO诞生至今,不过两年时间,广告主们大多处于观望中。陈峥和他的同行们都很苦恼,不知道该如何说服广告主们相信GEO有操控大模型答案的魔法。“3·15”晚会曝光了行业“投毒”乱象的同时,也为“魔法”提供了真实案例。 可当下行业普遍情况是并没有这样的“魔法”。当广告主花三五万元年费包下一个GEO词条之后,最终获得的只有几张出现企业品牌名称的大模型回答截图。 当广告主再去向大模型询问同样的问题,类似的回答再也没有出现。GEO公司则会解释,“算法每天都在变”。 当所有人都开始拥抱AI时,这个新的流量入口就存在被商业利益侵蚀的可能。视觉中国 图 央视“3·15 ”晚会中,一款虚构的“Apollo-9”智能手环竟出现在大模型推荐列表中,甚至复用了“量子纠缠传感”“黑洞级续航”等造假话术。 那么,这些虚假信息是怎样溜进大模型的回答里的? 2022年11月,OpenAI发布ChatGPT时,它还是一个离线模型,无法联网,知识截止于2021年9月。回答完全由训练数据
搜索引擎才是罪魁祸首
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 新加坡管理大学优势专业
- 伊朗抓紧制裁空窗期全力出口原油,后续存诸多不确定性
- (美加墨世界杯)登贝莱“帽子戏法”助法国胜挪威 伊拉克垫底出局
- 15岁的奥运冲浪手杨思琪:来自大山,驰于大海
- 英国留学一年大概花多少钱:2025费用全解析
- 黄金受非农疲软数据提振反弹,短期走势仍存多空博弈
- 日本出奇招:不再“喊话”改“偷袭”!做空日元者“瑟瑟发抖”
- 浙江慈溪一男子持仿真玩具枪抢劫金店,警方通报
- 美联储前瞻:10月暂停加息,12月或将再度加息
- 209只股票的面值困境,470亿海航控股竟也逼近1元“退市红线”
- 海峡航运回暖油价走低,但不等于油市供给过剩
- (美加墨世界杯)登贝莱“帽子戏法”助法国胜挪威 伊拉克垫底出局
- 贷款对韩国留学会有影响吗
- 花海逐风燃情开跑 宁夏兴庆以体为媒激活漂亮经济
- 非农爆冷美元跌倒,油价借势反弹!但更大的变数在中东
- AI科学家来了,还是开源的
- 韩国留学怎么准备生活费
- 金价逼近4200美元,非农数据疲软拖累美元
- 北约峰会“热炒”中国话题,英国新首相上任丨知世分子
- 美元兑日元分析:汇市干预难破日元结构性弱势格局
- 搜索
-