AI偶尔也会出现失误。最近，广州一家工程公司的负责人深夜为员工购买团体意外保险时，AI提供的付款二维码有误，导致近两千元的保费转入了无关第三方个人账户。次日，该负责人发现没有保单记录后联系到收款方，最终索回了误付的钱款。
尽管钱款已经顺利退回，但这一事件引发了公众对AI支付安全性的关注：AI为何会提供错误的二维码？整个AI支付流程是否存在安全漏洞？监管部门对于AI支付有何约束等。这些问题将AI支付生态的布局动向与潜在风险推至舆论焦点。
不久后，相关AI平台解释称这种情况是“模型幻觉”所致，并已第一时间修复。“模型幻觉”是指大语言模型在生成内容时产生与事实不符、逻辑断裂或脱离上下文的信息，输出看似语法正确、逻辑严谨，但实际上存在错误或无法验证。用一句常见的话说就是，AI“一本正经地胡说八道”，它自信满满生成虚假答案，却无法意识到自己的错误。
在重庆某创业公司工作的AI工程师汪建表示，“模型幻觉”在各类AI应用中都有表现，但在AI支付领域，该风险可能带来无法预估的后果。他认为，AI支付产生“模型幻觉”的原因主要有两个方面：一是AI模型训练数据中可能包含错误信息；二是用户盲目信赖AI，忽视了对支付信息的二次查实，最终导致错误发生。随着AI支付无感化体验的不断深入，用户习惯了语音下单、刷脸支付等操作，但在AI支付领域中大模型幻觉潜藏的风险并未引起用户的普遍关注。
年初的“龙虾热”成为引爆点，微信、支付宝、银联等行业巨头正加速布局AI支付，通过发布支付Skill、AI支付协议和智能体支付框架等方式，争夺AI场景下的服务入口和行业标准制定权。支付宝发布了国内首个“支付集成Skill”，通过自然语言描述，AI可自动完成支付功能的接入，实现“开箱即用”。微信支付上线了一整套面向AI支付的“AI接入工具箱”，包括Skill技能包、AI友好文档、AI友好API，支持分账、退款、账单下载等20余种功能，并提供无资金流转的测试环境以降低试错成本。中国银联则在上海发布了APOP框架（《智能体支付开放协议框架》），专为智能体支付生态系统设计，以解决身份信任、意图信任、过程信任三大核心问题。
