上海两会期间，人工智能技术的创新与治理成为代表委员热议的焦点。市人大代表、上海合合信息科技股份有限公司董事会秘书刘忱认为，面对聚焦生成式人工智能技术在电商领域衍生出的新型“黑灰产”问题，应通过监管、技术、行业“三管齐下”，构建可信数字交易生态，维护中小经营者合法权益，进一步优化上海数字经济营商环境。
随着生成式人工智能（AIGC）技术门槛降低与应用普及，其“双刃剑”效应日益凸显。刘忱代表指出，当前在电商领域，已出现不法分子利用AI工具批量生成高度逼真的“商品破损”“货物瑕疵”等图片，并利用电商平台“仅退款”规则漏洞，实施恶意索赔的新型违法活动。
这种行为具有零成本、批量化、难辨别的特点，正迅速演变为侵害广大中小商家权益的突出问题。刘忱表示，此类AI恶意应用行为带来的危害主要体现在三个方面：一是商家直接经济损失与维权成本双高。面对AI伪造的证据，商家举证难度大，平台维权流程复杂，时间成本与经济负担沉重。二是线上平台作为电商活动的载体，在追求经济利益的同时，对网络安全的投入仍待改善。三是市场秩序与信用体系遭侵蚀，不仅破坏公平交易市场秩序，某种程度上影响营商环境。
针对上述问题，刘忱代表提出首要对策是强化监管合力与效能。他建议，由市场监管部门牵头，联合网信、公安、商务及电商行业协会等，开展针对 AI 造假索赔的专项整治行动，重点排查高风险品类与高频索赔账号。同时，支持上海本地监管技术创新，推广AI 生成内容识别、商品溯源等监管工具，对平台审核流程实施常态化监督检查，督促落实审核义务。在商家端，可设立商家维权绿色通道，简化 AI 造假索赔案件举证流程，建立“快速立案、优先调处”机制，降低商家维权成本。
治理AI产生的问题，同样需要依靠AI等技术手段。刘忱代表建议，应大力推动电商平台部署与升级AI造假识别技术，通过算法比对商品原始信息与退款证据一致性，拦截伪造内容，对高频索赔账号实施重点监控。
他还呼吁建立跨平台协同治理机制，推动各大电商平台共享欺诈案例数据与恶意账号黑名单，实现联合管控。此外，应鼓励应用数字水印技术。引导商家对商品打包、发货全过程录像存证，为维权提供可靠证据支撑。
热门跟贴