对AI模型和算力的非法访问正迅速成为网络犯罪地下世界中的热门商品。黑客试图利用昂贵的大语言模型进行勒索、战争和间谍活动。
谷歌威胁情报集团首席分析师John Hultquist表示，今年观察到所谓“LLM劫持”攻击大幅增加，包括出售公共AI工具被盗的登录凭证，以及一些团体窃取算力资源以便免费运行自己的模型。Hultquist指出，在地下市场中，围绕AI访问权限形成的经济正在不断增长。
低成本获取昂贵AI资源使网络攻击者在经济上获得相对于攻击目标的优势，因为后者同样需要使用这些AI工具来保护自己。Hultquist解释说，所有这些行为都会让攻击者在经济或效率上获得某种优势，因为他们能够以便宜得多的价格获得这些资源。
谷歌威胁情报部门的研究人员发现，暗网上的一些交易市场正在出售Anthropic、Google和OpenAI等公司AI模型的访问权限，折扣最高可达97%。ChatGPT和Claude最高级版本的AI订阅服务，每名用户每月费用最高可达200美元。一些卖家甚至提供“保证访问”，承诺如果最初的账户被封禁，将免费提供新的登录凭证。
在其他情况下，犯罪团伙和国家支持的组织会入侵企业托管在云端的服务器，并将自己的AI模型部署到目标系统中运行。这种方式类似于此前威胁行为者试图入侵第三方计算机进行加密货币挖矿。
Hultquist表示，AI已经被所有威胁行为者使用，因此AI工具未来必须成为网络安全体系中不可或缺的一部分。Anthropic最近一期关于AI滥用的季度报告中提到，来自20多个国家的威胁行为者曾试图利用其Claude工具从事恶意活动。
Hultquist警告称，随着越来越多大型企业寻求将定制化AI模型部署在自己的服务器上，而不是从云服务提供商租用算力，这些系统本身也将成为攻击目标，必须受到严密保护。他说，现在正是黑客潜入目标账户和计算机服务器的最佳时机，因为企业仍在摸索自己究竟会使用多少AI资源。算力使用量突然大幅增加可能被认为是正常的，这给了某些人一个隐藏在噪声之中的机会。
