2025-09-10 19:10来源:本站编辑
就在ChatGPT开始生成逼真图像后不久,阿南特·卡莱就开始在社交媒体上看到帖子,教人如何用AI生成足以乱真的假发票。
他立刻意识到——这是冲着他来的。
作为AppZen公司的CEO,他主导开发的欺诈检测工具本就能识别AI生成的票据,但这次的情况截然不同。
“我们当时就惊了:完蛋,这操作也太简单了吧!”他接受《纽约时报》采访时坦言。
AppZen火速研发了专门检测聊天机器人假发票的工具。
但这只是军备竞赛的开始:费用管理软件Expensify在四月新增AI票据检测功能,SAP Concur的自动审计工具Verify本月也向所有用户开放了同类服务。
今夏,企业差旅软件公司Navan的产品开发负责人尼古拉斯·里茨道破天机:“AI生成的票据只会越来越逼真,要用魔法打败魔法——用AI对抗欺诈性AI!”
报销欺诈就像滑坡效应。卡莱指出,员工最初往往只是为真实消费补开丢失的票据,但一旦得手,就会屡试不爽。
有人甚至胆大包天:AppZen曾查获某员工提交一整批AI生成的曼谷酒店机票票据,而调查显示,此人根本从未踏足泰国!
每年认证5000名新稽查师的注册舞弊审查师协会近期调研显示,过去18个月中,13%的职业欺诈案涉及虚报或捏造开支,涉案金额中位数达5万美元,足以构成刑事犯罪。
AI让欺诈门槛急剧降低。AppZen透露,当前截获的假票据中30%来自聊天机器人生成,而非传统修图或模板服务。自2024年5月以来,虚假票据总量暴涨30%。
Expensify每月从数百万票据中筛出上百张AI生成的假票,SAP Concur的Verify工具则标记了约1%的可疑AI票据。
“协会成员和反欺诈专家一致认为,AI不仅导致欺诈数量激增,更让检测难度指数级上升。”该协会研究总监梅森·怀尔德强调。
这场博弈如同当年家用打印机催生报销防伪技术,软件公司正在构建新的武器库:聊天机器人生成的图像元数据会留下指纹,但员工只需截图就能抹除痕迹;算法可对比同一商户的真实票据,捕捉人眼难辨的字体间距差异;AppZen等工具通过双重过滤——先标记异常消费模式,再送入二级审计层分析ChatGPT生成特征(例如是否反复使用相同服务员姓名或菜品顺序)。
卡莱直言:“没有单一技术能通杀假票据,必须层层设防。这就是一场永无止境的猫鼠游戏。”