7 月 10 日消息，一项最新发现显示，人工智能工具 ChatGPT 在商业推荐中可能引用不可靠的信息来源，其中包括被黑客攻击的网站和已被重新利用的过期域名。
据了解，该发现来自 SEO 专家、Digitaloft 公司董事总经理詹姆斯・布罗克班克(James Brockbank)的个人测试，并非基于正式研究。他在测试中发现，ChatGPT 在推荐公司或服务时，有时会引用被篡改或具有误导性的内容。这些内容往往来源于被黑客入侵的高权重网站，或是已被重新注册并用于发布无关信息的过期域名。由于这些域名本身具有较高的 “权威性”，ChatGPT 在生成回答时仍将其视为可信来源。
布罗克班克指出，这种现象主要涉及两类问题：一是被黑客攻击的网站，攻击者会在这些网站上植入与原本内容无关的信息;二是过期域名的再利用，一些机构或个人购买这些域名后，发布与其原主题无关的内容，借此借助其原有的搜索引擎权重误导 AI 系统。
“重建一个域名，仅仅是为了让语言模型引用它?这就是操控。” 布罗克班克在接受采访时表示。他强调，虽然通过合法媒体投放和精心策划的内容可以提升在 AI 推荐中的曝光度，但利用被黑或过期域名则明显越过了道德底线。
这一发现对企业和用户均具有重要影响。对于企业而言，AI 推荐已成为品牌曝光的重要渠道，但如果推荐内容来源不可靠，可能会误导消费者，甚至损害品牌声誉。对于用户来说，盲目信任 AI 推荐可能带来信息误判的风险。
布罗克班克呼吁，AI 开发者应加强对操控内容的识别与过滤机制，提升系统的信息筛选能力。在此之前，他建议用户在使用 ChatGPT 等 AI 工具时，应对其推荐的信息来源进行核实，而非全盘接受。
“我们还没有到可以完全信任 ChatGPT 推荐而不加验证的阶段。” 布罗克班克提醒道。
免责声明：本文仅代表作者个人观点，与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
本网站有部分内容均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，若因作品内容、知识产权、版权和其他问题，请及时提供相关证明等材料并与我们联系，本网站将在规定时间内给予删除等相关处理.
