可以看一下这个 COCO 债例子:
https://m.weibo.cn/detail/4881689689460215基本上可以确定 ChatGPT 自己编造了一个 2016 年葡萄牙商业银行减计 AT1 债券的案例,甚至杜撰了参考资料和链接。
更严重的问题是,ChatGPT 编造的这个故事被自媒体或内容农场传播到了互联网上,导致给出处的 New Bing 也被污染,进一步传播了这个编造的故事。
https://m.weibo.cn/detail/4881683080025480以前内容农场互爬几次会导致内容严重劣化,很容易分辨。现在带有大型语言模型的 AI 互抓时会重新优化语言,这就导致 AI 互相吃屎时信息不会衰减消亡,反而大幅强化传播效果。
----------------------------------------
其实并不只是 AI ,互联网大 V 与自媒体叠加也可以形成这种“媒体蜈蚣”的效果。
比如俄亥俄州氯乙烯列车出轨事故之后,中文网络上突然出现大量“可口可乐最大的原浆厂在俄亥俄州”这个信息,有些甚至煞有介事地加上“根据查询可口可乐原浆工厂官网得知”。但如果你搜索 2022 或更早的网页几乎没有什么关于可口可乐原浆具体在哪里生产的信息,也没有所谓的工厂官网。
这则信息的始作俑者似乎是某篇爆款大 V 或公众号文章。