谷歌可能是当今硅谷最卷的科技大厂,最近两个月一口气发布了三款大型的大语言模型,开源的、生图的、生成视频的,花样百出。
但是未必所有努力就能获得回报,近日可谓“屋漏偏逢连夜雨”。
春节期间,谷歌官宣Gemini 1.5.提供百万级Tokens的上下文窗口吞吐,实力强劲却无人问津,被OpenAI的Sora视频模型大抢风头。
近日,谷歌又摊上了美国社会最敏感的「种族政治正确」问题,这一次,追求多元性的谷歌,没有惹恼有色人种,而是惹到了白人族群。
追求多样化正确,过度追求多样化一身骚
前阵子,有网友使用谷歌最新的Gemini 1.5生成历史人物的图像,竟然诞生了一个平行时空的荒诞感十足的新宇宙。
来看下面这组网友的测试图。
生成「公元8世纪的维京人」,不再是金发碧眼、高大魁梧的影视剧经典刻板形象,而是皮肤黝黑的黑武士,坚毅的眼神依然能感受到维京战士的强悍。
生成「19世纪的德国夫妇」,人种构成十分丰富,有黑人、有印第安人,甚至还有亚裔的混合家庭,那个年代已经这么开放了么?
生成「二战时期的德军纳粹军官」,且不说女军官出现的概率有多高。既有黑人也有亚裔就相当离谱。
生成「英格兰国王」,可谓“王侯将相宁有种乎”,中世纪的英格兰国王也可以是黑人执掌权杖。
更不可思议的是,美国的开国元勋可以是黑人和印第安人,这就…。
其他的职业也被一视同仁,在男性为主的神职人员里边,教皇可以是印度女性。
生成「19世纪的美国参议员」,出现了美国印第安原住民形象的女议员。而事实上,第一位印第安裔的女议员要在一个世纪之后才出现。
都说历史是个任人打扮的小姑娘,这次AI让你领略了重新演绎的历史观。
Gemini「宁可断电」也不生成白人形象
更有意思的是,随着深挖大模型的人像创作逻辑,这一「肤色的政治正确」不仅仅出现在历史人物上,即便是现代人物也会开启各种新姿势。
谷歌前工程师@debarghya_das发现,当你输入“美国”“英国”“德国”“瑞典”“芬兰”“澳大利亚”等以白人为主体的国家的提示词,要求生成女性形象时,输出的人像肤色往往偏黑或者偏原住民肤色。
他感慨:「让Gemini承认白人的存在是非常困难的。」
谷歌对于创作白人可以说是相当的苛刻了。
当用户要求Gemini生成「黑人家庭」图像的时候,大模型的反应飞快,秒级输出,干活也利索。
但是当轮到生成「白人家庭」的时候,就可能遭拒绝,甚至对网友说教——你的请求是强化种族刻板印象,我可以为你生成一个种族多元的家庭。
乖乖…什么时候混血大家庭成为了社会主流…?
还有网友在尝试,到底Gemini是基于什么原则来创作多元性的族群?他开始尝试一些动物的名词——
首先,生成「白熊」是没有问题的,说明AI并不会被【White】这个词触发安全防护栏。
强调生成非洲的「祖鲁人」也是没毛病的,即便你强制输入提示词「多样性」,最终生成的结果,仍然天下乌鸦一般黑。
那么生成魔幻生物呢?
网友发现,生成「精灵」和「侏儒」都是白人形象,但「吸血鬼」和「仙女」则是多元族群,很遗憾他没有测试生成「美人鱼」。♀️
谁规定精灵王子就得是白人的?
看来Gemini的道行还不够深,有待与时俱进。
谷歌为图像创作问题道歉:这是一个错误
当舆情爆发的时候,谷歌很快站出来回应,承认一些历史图片确实存在问题,并且立即停止了Gemini的人像图像生成功能,很快会做出调整。
谷歌也解释了基本立场——强调生成多元化的人物形象,自然是一件好事,因为AI工具并不是给某一个族群使用的,不过目前有点走歪了。
「种族歧视」本身是一个在全球都很容易被当枪使的话题,因此不免有针对树大招风的谷歌大厂的阴谋论——有心人,可以刻意引导Gemini生成一些敏感题材的人像。
特斯拉CEO马斯克更是看热闹不嫌事大,他直接批评谷歌过度追求多样性,是反文明的代码编写。
他甚至晒出了一张漫画,顺便给自家的AI聊天机器人产品Grok打广告:
——「不顾批评、严格追求真理从未如此重要。」
而类似于OpenAI、微软、谷歌等公司开发的AI都是邪恶的AI。
比他的言论更吸引人的,网友“趁乱”给马斯克上了一剂眼药——创作属于他的「政治正确」。
这可能是马斯克这辈子被「黑」得最惨的一次。
当地时间2月27日,谷歌CEO皮查伊给员工发了一封内部信,他表示,这个问题“完全不可接受”,团队正在“日夜不休”地纠正这些问题,并表示公司将进行结构性改革,以防止类似事件的发生。
最近来自谷歌内部的一次消息指出,程序员已经修复好了这个种族BUG,在测试完毕后,Gemini生成人像的服务将会重新上线。
不管怎样,AI作为一个新鲜事物,从诞生的第一天开始,就注定将改写世界的历史进程。
因吹斯汀~~~~~