四川一上律师事务所合伙人林小明律师介绍，根据《民法典》规定，“民事主体的人格权受法律保护，任何组织或者个人不得侵害”“民事主体从事民事活动，不得违反法律，不得违背公序良俗”，网友制作的视频，无论是以AI“一键生成”方式还是其他方式，若其内容涉嫌侮辱、丑化老人等群体，则有违公序良俗；若视频内容能以外在形象等确定具体被侮辱、丑化的个人，则侵害了相应自然人的人格尊严。同时，类似传播暴力、宣扬虐待的视频，还构成对社会公共利益的侵害，应当依法被制止。
　　此外，《治安管理处罚法》规定“故意散布谣言，谎报险情、疫情、灾情、警情或者以其他方法故意扰乱公共秩序的”“处五日以上十日以下拘留，可以并处一千元以下罚款；情节较轻的，处五日以下拘留或者一千元以下罚款”，倘若网友制作、传播暴力信息的行为符合故意扰乱公共秩序的情形，公安机关可以依据前述规定对行为人进行相应处罚。
　　若相关情形符合《刑法》规定的公然侮辱他人、情节严重等情形，构成犯罪的将处3年以下有期徒刑、拘役、管制或剥夺政治权利；在网络上起哄闹事、传播暴力、破坏社会秩序，情节恶劣的，构成寻衅滋事的“处五年以下有期徒刑、拘役或者管制”。
　　根据《民法典》规定，“网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任”，因此，网络平台若明知或应知用户利用平台制作视频侵权，未及时删除、屏蔽、断开链接的，应当承担相应连带责任。
　　林小明认为，网络、AI平台都不是法外之地，使用者是第一责任人，平台负有严格的审核与处置义务，“一键生成”也不能免责，主动制作、传播、二次创作暴力视频均涉嫌违法，甚至可能构成犯罪。因此，用户在制作传播类似视频时应当引起足够警惕，自觉遵纪守法；平台也应当尽到自身责任，主动作为，避免和阻止违法犯罪行为。
　　华西都市报-封面新闻记者徐湘东周翼 图据AI平台截图