来源:滚动播报

(来源:上观新闻)

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

每年暑假,上海一直是旅行热门目的地。在社交平台上,不少博主热衷发布以“来上海,一定要来这里”“上海免费绝美打卡”“本地人私藏风景”等为主题的图文笔记或视频,主打旅行攻略,吸引他人关注。这类帖子大多使用精美的城市风景照片作为封面,有的是摩登的高楼大厦,有的是旖旎的自然风光,令人心生向往。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

社交平台部分账号发布“上海打卡点照片”

但很多上海本地居民向上海辟谣平台指出,大量“有图有视频”的“上海打卡地”并不存在。记者近日核查发现,有相当一部分照片或视频由AI生成,还有一部分使用了其他地区的照片或视频。真实的旅行攻略才能赢得关注,为什么相关博主要用假照片、假视频呢?

假景点暗藏引流私货

连日来,记者在不同社交平台浏览了大量“上海旅行攻略”,发现被指认存在“造假”内容的帖子有相同的套路:

首先,这类帖子包含大量画面精美且少见的场景,封面更是吸引人:漫天红灯笼层层堆叠连成长廊,红色轨道飞车临水穿梭,绚烂热闹又体验感十足;一群游客坐在敞篷缆车翱翔田园之上,俯瞰碧绿草甸与澄澈湖泊,山湖城镇尽收眼底;悬挂式的轨道交通往来穿梭,车站大厅人头攒动……乍一看,似乎符合“旅游攻略”记录的目的地风景。不过,所有博主都没有明示这些场景究竟摄于上海哪里。经多名旅游业从业者辨认,这些场景其实与上海没有一点关系,其中有相当一部分由AI生成,还有一部分张冠李戴,将其他地区的照片或视频冠以“上海”之名。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

上海没有这样的场景

其次,在这些经不起推敲的帖文中,也穿插了一些上海的经典打卡地,包括外滩、豫园、陆家嘴等知名景点和部分热门商业场所。因此,对没有来过上海的网友而言,这些帖子可谓真假参半。

最后,在真真假假的“上海打卡地”中,藏着发布者的真正目的:为某个商业场所引流。比如,记者锁定两个内容高度同质化的自媒体账号,发现它们今年已持续发布数十条上海打卡攻略,发布了上百张虚构“在上海”的图片。而所有笔记中,都会推荐同一家家居商场,并将该家居商场与上海经典景点相提并论。

打开网易新闻 查看精彩图片

两个自媒体发布“上海攻略”时用的部分封面,相关场景均非上海

打开网易新闻 查看精彩图片

发帖者暗示,坐图中的地铁能到达该家居商场,但上海地铁车型与图中完全不同

其中一个账号的营销手段更为激进:除了用AI图片“种草”,还将AI生成的视频与网传视频剪辑在一起,制作了洪水泛滥、人流拥堵、城市险情等惊悚灾害类视频,配文称“出大事了”“全国都知道了”等,然后话锋一转,表示“大事”是该家居商场开业。也就是说,该账号炮制惊悚画面的根本目的是借虚假险情博眼球,为商场导流。

至此,不难发现这些虚假攻略的商业逻辑:AI生成美景成本低、效率高,发布者无需实地取景,便可批量产出虚假帖文;同时,虚构的绝美景观容易获得关注,便于发布者植入推广内容,赚取推广佣金。然而,虚假旅行攻略不断扩散,不仅误导游客出行,也歪曲了城市文旅风貌。

AI造景触碰多条法律红线

记者注意到,有的博主在发布含有AI生成内容的虚假攻略时,并没有按照社交平台的要求标注帖子含有AI生成内容。正因为此,相关帖子的迷惑性也更强。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

记者用鉴别大模型检测了部分“上海打卡点”照片,发现均为AI生成,但相关帖子都未标注“AI生成”标签

也有人问,如果博主主动声明相关攻略含有AI生成内容,是否就没有责任了呢?

对此,专业人士进行了解答。

首先,法律明确规定,发帖者必须明示帖子含有AI生成内容。

上海市律师协会数字科技与人工智能专业委员会相关律师指出,根据《人工智能生成合成内容标识管理办法》,所有AI生成的内容都要“亮明身份”。相关主体在社交平台发布AI生成图片、图文内容时,必须主动标注AI生成标识,设置肉眼可见的显性提示以及后台可溯源的隐性水印,严禁隐匿、删除AI合成标记。也就是说,博主刻意隐藏图片由AI制作的事实,已经违反AI内容监管法规。

其次,即便发帖者明示帖子中存在AI生成的内容,其余行为也得遵守《广告法》。

根据《广告法》,将不存在的景观作为噱头诱导消费者前往消费,或是披着“旅游攻略分享”的外衣隐性投放商业广告却不标注“广告”“推广”等字样,都已涉嫌虚假宣传。一旦查实,监管部门可对发帖者、合作商业机构处以罚款;如果有游客被虚假宣传误导遭受损失,发帖者还可能要承担民事赔偿责任。此外,如果存在账号矩阵批量造假推广的现象,账号背后的实际控制者或机构还可能被认定为团伙式虚假营销并从严追责。

最后,部分博主用灾难等惊悚图片、视频博流量,涉嫌造谣滋事,违反《治安管理处罚法》。若大范围散播虚构洪水、人流踩踏、城市险情等不实内容,引发公众恐慌、扰乱公共秩序,情节严重者还将触犯《刑法》,承担刑事责任。

法律界人士提醒,AI只是创作工具,下达生成指令、编辑文案、主动发布引流的发帖者始终是法律层面的责任主体。所以,发帖者不能以“内容由AI生成”为由推卸违法责任,而是要在发帖前,全面了解自己所应遵守的法律规定。

“照骗”升级,管理也要跟上

值得一提的是,虚假旅行攻略也反映出社交平台上的造假现象正在升级——

第一阶段是照片变“照骗”。部分博主使用修图软件,将实拍照片或视频的光线、色彩进行调整美化后,发布到社交平台。修图软件虽然美化了场景,但景观本体尚真实存在,所以这些被美化后的照片被网友称为“照骗”。

第二阶段是虚实拼接改造。部分博主截取真实景点的局部画面,搭配AI生成的建筑、背景、人物等进行拼接改造,轻微篡改实景样貌。由于AI生成的效果更加多样且自然,所以这些作品堪称“照骗2.0”。

如今,造假行为进入了第三阶段,也就是纯AI生成引流模式:博主全程无需实地拍摄,完全依靠人工智能创造不存在的景观,并混杂真实场景进行图文、视频发布。就这类帖子而言,如果发帖者没有标注“AI生成”,普通网友很难凭借肉眼分辨,从而让AI造假账号得以持续收割流量。

可见,在新阶段,社交平台原本的内容审核机制也要升级。

一方面,用技术手段确保“AI生成”强制标注。

目前,部分平台在发布端口已经增设强制弹窗,当用户上传图片和视频时,系统会自动识别AI合成素材,未勾选“AI生成”标识的图文无法完成发布;同时为AI内容嵌入不可删除的隐性溯源水印。但从记者调查看,部分平台的自动识别系统对“真假参半”的视频,以及“封面由AI生成,内容为真假参半”的帖子识别准确度有待提高,从而为部分博主提供了可乘之机。

另一方面,社交平台应升级算法风控模型,打击同质化矩阵营销。

某平台风控技术员李洲(化名)透露,通过大数据筛查,平台其实是可以发现那些批量发布、文案模板类似的营销账号矩阵,但在实践中,由于账号数量众多,所以在“是否采取举措”上,不同平台的“松紧度”不一样。在他看来,平台如果监测到多个账号集中发布类似模板的营销帖,可以及时介入,通过“技术初筛+人工复核”的方式,对问题帖子限流、下架,乃至惩罚对应账号,斩断造假账号的流量变现路径。

最后,鼓励社交平台上的真实攻略。比如,社交平台可以开设网友甄别举报专区,在帖文页增设“疑似AI造假”举报入口。当网友发现所谓打卡地不存在时,可及时举报投诉。平台核实举报属实后,可在原帖文标注“内容不实,仅供参考”或直接下架相关帖文。

原标题:《“不能错过的上海打卡地”为什么上海人都不知道?记者调查发现玄机

本文图片均为社交平台截图。

来源:作者:解放日报 任翀