AI 假图"仅退款"成风:商家叫苦不迭,国家反诈中心"AI 鉴定师"进入实战阶段
阅读原文· ithome.com近期,部分买家利用AI技术伪造商品问题图片,在电商平台申请“仅退款”,令商家蒙受损失。为应对此新型欺诈,国家反诈中心App已于今年3月上线AI内容鉴定功能,可检测图像、视频等内容的AI生成痕迹。该功能采用大小模型协同技术,识别率高且误报率低。央视实测证实其有效性,为商家提供了低成本鉴定工具,有助于遏制欺诈行为,维护电商秩序。
IT之家 5 月 17 日消息,“有图有真相”的消费维权常识,正被突飞猛进的 AI 技术改写。
据央视报道,近期不少电商商家反映遭遇了一种新型售后套路:买家提供的“问题商品”图片并非实拍,而是利用 AI 技术伪造出来的“证据”。原本正常的消费者维权渠道,正被部分人异化成“白嫖”商品的工具。
河北的种植户张先生对此感触颇深。上个月,他的店铺在某平台售出 12 单无花果苗后,随即收到一份“仅退款”申请。对方附上一张叶片枯黄、毫无生机的果苗图片,声称收到已干枯死亡。有着多年种植经验的张先生倍感疑惑,因为他是带盆发货,且苗情健壮,两天内完全不可能枯黄至此。他凭借经验指出,图片显示叶片完全舒展呈枯黄色,但真正失水的叶子应该是收缩下垂的,不符合常理。张先生断定该图为 AI 造假,联系买家退货退款遭拒,对方直接申请平台介入。尽管张先生进行了申诉,平台仍依据这张图片,在几分钟内便批准了“仅退款”申请。
类似困扰也蔓延到更多品类:有商家收到“一致间距且精准断裂”的衣架图,也有消费者发来的杯身裂痕图被 AI 检测工具判定为“92% 概率 AI 生成”。还有买家利用 AI 将正常商品“P”出发霉、破损,甚至在退货时调包,试图双重获利;甚至还有一些人的图带有“豆包生成”的水印。
为应对技术滥用的挑战,国家反诈中心 App 今年 3 月正式上线了 AI 内容鉴定功能,支持图像、视频、文本及音频的 AI 识别检测,覆盖 30KB 至 5MB 的图片、10 分钟以内的人声音频等常用格式。
该功能旨在用同样的技术手段去识别虚假内容,以遏制愈发泛滥的 AI 换脸、伪造图片视频等新型诈骗手段。
网络支付与安全领域的相关企业也在积极布局这类鉴真技术。蚂蚁安全内容视觉算法负责人兰钧介绍了当前主流 AI 鉴真的核心技术路线,他表示检测方式主要由两部分构成:一部分是利用小模型深入学习 AI 生成内容的模式,基于大量数据进行训练判断;另一部分则是结合大模型关注内容本身的物理瑕疵和逻辑语义,例如查找文字乱码或不符合常理的场景,最终通过小模型与大模型的协同工作来判定真伪。据悉,这类鉴真工具在业务场景中已能实现较高的识别率与极低的误报率。