万万没想到一个简单的“生成男女同等身高”需求,竟让国产多款主流AI绘图工具集体翻车,一时间引发技术漏洞和刻板观念的双重争议!
起初是有一女生想用ai生成一张男女同样身高的合照,结果AI却频繁出错,始终输出的都是“男高女矮”的照片。
提示词中给出具体身高尺寸也不行。
随后她将此事发到社交平台,于是掀起了一场舆论风波。
有网友认为是AI技术存在漏洞;也有网友认为是训练数据存在缺陷;还有网友认为是刻板印象。
不少网友纷纷下场尝试,在输入“男女同样身高”或者“女高男矮”的指令后,结果普遍还是出现“男高女矮”的图片,甚至加入强制性的提示词也无法纠正。
比如:“生成一个一米七的女孩和一个一米六的男孩合照”。
面对网友的不断质疑,AI生成的图片依然不理想。
在加入身高标注后表现更割裂。
另外,有的AI在不断尝试中能识别“女生比男生高”的指令,但很多情况下都在年龄上做了区分,甚至是成年女生跟童龄男生的区别。
当把提示词改成:“从生成一米七成年男性和身高两米的成年女性”后,直接输出了巨人照。
有网友发现,当把提示词中的性别统一后,反而就能正常按照指令生成。
还有网友在尝试多次无果后,选择用公共人物代替身高尺寸描述,生成的图片也是正常的。
“AI生成男女身高”异常不止局限于一种AI工作,像豆包、千问、元宝、文心等国内主流AI绘图工具普遍都存在类似情况,只有少数网友在尝试后正常输出。
对于这种情况,网友们的看法也是各不相同。
也有网友就“AI生成男女身高”异常的情况从技术方面给出了分析,认为不是主观歧视,而是数据里的偏见变成了模型里的惯性。
显然这一情况国内AI厂商有必要跟进解决优化, 豆包对此特意新增“性别中立”模式,生成女高男矮图的成功率可以提升至约30%。
发现问题并及时解决问题,对于国产AI发展的必经之路,还在有了热度后现在很多AI厂商注意到了这一异常,相信很快就会修复!
对此,你怎么看?
热门跟贴