专家警示：ChatGPT 的商业建议可能源自不可信来源，建议用户审慎采纳
发布时间：2025-07-10 18:21:04 | 责任编辑：吴昊 | 浏览量：18 次
近期，SEO 专家詹姆斯・布罗克班克在测试中发现，人工智能工具 ChatGPT 在提供商业推荐时，可能引用了不可靠的信息来源，包括被黑客攻击的网站和过期的域名。这一现象引发了业内人士的关注，提醒用户在使用 AI 工具时，务必对其推荐信息进行核实。
在测试中，布罗克班克发现，ChatGPT 在推荐某些公司或服务时，有时引用了被篡改或误导性的内容。这些内容通常出现在被黑客入侵的高权重网站上，或是已经被重新注册并用于发布无关信息的过期域名。由于这些域名原本具有较高的 “权威性”，ChatGPT 在生成推荐时仍然将其视为可信来源。
布罗克班克指出，这种情况主要有两个方面的问题:一是被黑客攻击的网站，这些网站可能被恶意植入与原内容无关的信息;二是过期域名的再利用，一些机构或个人会购买这些域名，并发布与原主题无关的内容，借助其原有的搜索引擎权重误导 AI 系统。他表示:“重建一个域名，仅仅是为了让语言模型引用它?这就是操控。”
这项发现对企业和用户都有着深远的影响。对于企业来说，AI 推荐已成为品牌曝光的重要渠道，但如果推荐内容来自不可靠的信息源，可能会误导消费者，甚至损害品牌声誉。而对于用户而言，盲目信任 AI 的推荐可能导致信息判断的失误。
因此，布罗克班克呼吁 AI 开发者加强对操控内容的识别与过滤机制，以提升系统的信息筛选能力。他还建议用户在使用 ChatGPT 等 AI 工具时，务必对推荐的信息来源进行核实，而不是全盘接受。“我们还没有到可以完全信任 ChatGPT 推荐而不加验证的阶段。” 他强调道。
随着 AI 技术的迅速发展，如何保障信息的可靠性，已经成为一个重要议题。用户在享受便捷的同时，也需保持警惕，以避免潜在的误导和风险。
划重点:
🌐 ChatGPT 在商业推荐中可能引用被黑客攻击的网站和过期域名，信息来源不可靠。
🔍 用户应对 AI 推荐的信息进行核实，而不是盲目信任，避免信息误判。
🚀 专家呼吁 AI 开发者加强对操控内容的识别与过滤机制，提高信息筛选能力。
近期，ChatGPT在商业推荐中被发现存在引用不可靠信息来源的问题，引发了专家的关注和呼吁。以下是具体情况：
问题表现
-
引用被篡改或误导性内容：SEO专家詹姆斯·布罗克班克通过个人测试发现，ChatGPT在推荐公司或服务时，会引用被篡改或误导性的内容。这些内容主要来自两类不可靠来源：
-
被黑客攻击的网站：攻击者在这些网站上植入与原本内容无关的信息，ChatGPT在生成回答时仍将其视为可信来源。
-
过期域名的再利用：一些机构或个人购买过期域名后，发布与其原主题无关的内容，以借助其原有的搜索引擎权重误导AI系统。
-
影响
-
对企业的负面影响：AI推荐已成为品牌曝光的重要渠道，但如果推荐内容来源不可靠，可能误导消费者，甚至损害品牌声誉。
-
对用户的误导风险：用户盲目信任AI推荐，可能带来信息误判的风险。
专家呼吁
-
开发者加强审核：布罗克班克呼吁AI开发者应加强对操控内容的识别与过滤机制，提升系统的信息筛选能力。
-
用户谨慎使用：在AI开发者提升系统能力之前，用户在使用ChatGPT等AI工具时，应对其推荐的信息来源进行核实，而非全盘接受。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
