ChatGPT推荐被曝引用不可靠信息来源, 专家提醒用户勿盲目信任

IT之家7月10日消息，一项最新发现指出，人工智能工具ChatGPT在商业推荐中可能引用了不可靠的信息来源，包括被黑客攻击的网站和已被重新利用的过期域名。

据IT之家了解，该发现由SEO专家、Digitaloft公司董事总经理詹姆斯・布罗克班克（JamesBrockbank）通过个人测试得出，并非基于正式研究。他在测试中发现，ChatGPT在推荐公司或服务时，有时会引用被篡改或误导性的内容。这些内容往往来自被黑客入侵的高权重网站，或是已被重新注册并用于发布无关信息的过期域名。由于这些域名本身具有较高的“权威性”，ChatGPT在生成回答时仍将其视为可信来源。

布罗克班克指出，这种现象主要涉及两类问题：一是被黑客攻击的网站，攻击者在这些网站上植入与原本内容无关的信息；二是过期域名的再利用，一些机构或个人购买这些域名后，发布与其原主题无关的内容，以借助其原有的搜索引擎权重误导AI系统。

“重建一个域名，仅仅是为了让语言模型引用它？这就是操控。”布罗克班克在接受采访时表示。他强调，虽然通过合法媒体投放和精心策划的内容可以提升在AI推荐中的曝光度，但利用被黑或过期域名则明显越过了道德底线。

这一发现对企业和用户均具有重要影响。对于企业而言，AI推荐已成为品牌曝光的重要渠道，但如果推荐内容来源不可靠，可能误导消费者，甚至损害品牌声誉。对于用户来说，盲目信任AI推荐可能带来信息误判的风险。

布罗克班克呼吁，AI开发者应加强对操控内容的识别与过滤机制，提升系统的信息筛选能力。在此之前，他建议用户在使用ChatGPT等AI工具时，应对其推荐的信息来源进行核实，而非全盘接受。

“我们还没有到可以完全信任ChatGPT推荐而不加验证的阶段。”布罗克班克提醒道。