网络安全公司Netcraft最新研究发现，当用户向主流大语言模型（LLMs）询问知名品牌登录页面时，AI生成的网址中有34%并不属于对应品牌。更严重的是，其中一个链接直接指向活跃的网络钓鱼站点。
图片来源：janews - Shutterstock.com
研究表明，近30%的错误网址处于未注册或停用状态，这为威胁分子搭建恶意网站提供了可乘之机。Enterprise Strategy Group高级分析师Melinda Marks指出："企业特别是知名品牌应主动告知客户可信的官方网址，以保护声誉并防范钓鱼攻击。"
令人不安的是，5%的错误网址指向完全无关的企业，其中一个直接导向钓鱼网站。AI搜索引擎Perplexity曾推荐伪装成富国银行登录页的Google Sites页面"hxxps://sites[.]google[.]com/view/wells-fargologins/home"，该页面完美克隆了真实网站。
SlashNext现场技术官J Stephen Kowski警告："当AI幻觉产生未注册域名时，攻击者只需抢注这些域名就能守株待兔。一个恶意链接就可能危及成千上万本应保持警惕的用户。"研究显示，区域性银行和信用合作社等中型金融机构受影响最严重。
Netcraft在另一项研究中发现，攻击者正通过GitHub向AI系统投毒。研究人员观察到多个伪造GitHub账户共享名为"Moonshot-Volume-Bot"的项目，这些账户配备完整资料和编码活动记录，专门针对AI训练流程设计。其中包含的伪造Solana区块链API会将资金直接转入攻击者钱包。
Darktrace现场首席信息安全官Nicole Carignan强调："这不仅是AI幻觉，更是针对性操纵。必须加强训练数据的完整性验证和来源审核。"Noma Security技术官Gal Moyal建议实施主动防护措施："AI护栏应在推荐登录页面前验证域名所有权，绝不能放任模型'猜测'网址。"