谷歌Gemini文生图翻大车:生成人像过度追求种族多元性,涉嫌“歧视白人”,这可能是马斯克被“黑”得最惨的一次

谷歌可能是当今硅谷最卷的科技大厂,最近两个月一口气发布了三款大型的大语言模型,开源的、生图的、生成视频的,花样百出。 但是未必所有努力就能获得回报,近日可谓&l

图片

谷歌可能是当今硅谷最卷的科技大厂,最近两个月一口气发布了三款大型的大语言模型,开源的、生图的、生成视频的,花样百出。

但是未必所有努力就能获得回报,近日可谓“屋漏偏逢连夜雨”。

春节期间,谷歌官宣Gemini 1.5.提供百万级Tokens的上下文窗口吞吐,实力强劲却无人问津,被OpenAI的Sora视频模型大抢风头。

近日,谷歌又摊上了美国社会最敏感的「种族政治正确」问题,这一次,追求多元性的谷歌,没有惹恼有色人种,而是惹到了白人族群。

追求多样化正确,过度追求多样化一身骚

前阵子,有网友使用谷歌最新的Gemini 1.5生成历史人物的图像,竟然诞生了一个平行时空的荒诞感十足的新宇宙。

来看下面这组网友的测试图。

生成「公元8世纪的维京人」,不再是金发碧眼、高大魁梧的影视剧经典刻板形象,而是皮肤黝黑的黑武士,坚毅的眼神依然能感受到维京战士的强悍。

图片

生成「19世纪的德国夫妇」,人种构成十分丰富,有黑人、有印第安人,甚至还有亚裔的混合家庭,那个年代已经这么开放了么?

图片

生成「二战时期的德军纳粹军官」,且不说女军官出现的概率有多高。既有黑人也有亚裔就相当离谱。

图片

生成「英格兰国王」,可谓“王侯将相宁有种乎”,中世纪的英格兰国王也可以是黑人执掌权杖。

图片

更不可思议的是,美国的开国元勋可以是黑人和印第安人,这就…。

其他的职业也被一视同仁,在男性为主的神职人员里边,教皇可以是印度女性。

生成「19世纪的美国参议员」,出现了美国印第安原住民形象的女议员。而事实上,第一位印第安裔的女议员要在一个世纪之后才出现。

图片

都说历史是个任人打扮的小姑娘,这次AI让你领略了重新演绎的历史观。

Gemini「宁可断电」也不生成白人形象

更有意思的是,随着深挖大模型的人像创作逻辑,这一「肤色的政治正确」不仅仅出现在历史人物上,即便是现代人物也会开启各种新姿势。

谷歌前工程师@debarghya_das发现,当你输入“美国”“英国”“德国”“瑞典”“芬兰”“澳大利亚”等以白人为主体的国家的提示词,要求生成女性形象时,输出的人像肤色往往偏黑或者偏原住民肤色。

图片

他感慨:「让Gemini承认白人的存在是非常困难的。」

谷歌对于创作白人可以说是相当的苛刻了。

当用户要求Gemini生成「黑人家庭」图像的时候,大模型的反应飞快,秒级输出,干活也利索。

但是当轮到生成「白人家庭」的时候,就可能遭拒绝,甚至对网友说教——你的请求是强化种族刻板印象,我可以为你生成一个种族多元的家庭。

图片

乖乖…什么时候混血大家庭成为了社会主流…?

还有网友在尝试,到底Gemini是基于什么原则来创作多元性的族群?他开始尝试一些动物的名词——

首先,生成「白熊」是没有问题的,说明AI并不会被【White】这个词触发安全防护栏。

强调生成非洲的「祖鲁人」也是没毛病的,即便你强制输入提示词「多样性」,最终生成的结果,仍然天下乌鸦一般黑。

图片

那么生成魔幻生物呢?

网友发现,生成「精灵」和「侏儒」都是白人形象,但「吸血鬼」和「仙女」则是多元族群,很遗憾他没有测试生成「美人鱼」。‍♀️

图片

谁规定精灵王子就得是白人的?

看来Gemini的道行还不够深,有待与时俱进。

谷歌为图像创作问题道歉:这是一个错误

当舆情爆发的时候,谷歌很快站出来回应,承认一些历史图片确实存在问题,并且立即停止了Gemini的人像图像生成功能,很快会做出调整。

谷歌也解释了基本立场——强调生成多元化的人物形象,自然是一件好事,因为AI工具并不是给某一个族群使用的,不过目前有点走歪了。

「种族歧视」本身是一个在全球都很容易被当枪使的话题,因此不免有针对树大招风的谷歌大厂的阴谋论——有心人,可以刻意引导Gemini生成一些敏感题材的人像。

图片

特斯拉CEO马斯克更是看热闹不嫌事大,他直接批评谷歌过度追求多样性,是反文明的代码编写。

图片

他甚至晒出了一张漫画,顺便给自家的AI聊天机器人产品Grok打广告:

——「不顾批评、严格追求真理从未如此重要。」

而类似于OpenAI、微软、谷歌等公司开发的AI都是邪恶的AI。

图片

比他的言论更吸引人的,网友“趁乱”给马斯克上了一剂眼药——创作属于他的「政治正确」。

图片

这可能是马斯克这辈子被「黑」得最惨的一次。

当地时间2月27日,谷歌CEO皮查伊给员工发了一封内部信,他表示,这个问题“完全不可接受”,团队正在“日夜不休”地纠正这些问题,并表示公司将进行结构性改革,以防止类似事件的发生。

最近来自谷歌内部的一次消息指出,程序员已经修复好了这个种族BUG,在测试完毕后,Gemini生成人像的服务将会重新上线。

不管怎样,AI作为一个新鲜事物,从诞生的第一天开始,就注定将改写世界的历史进程。

因吹斯汀~~~~~

您可能有感兴趣的文章
Chat-With-MLX:一个在Mac上集成各种开源模型的聊天界面

Image to Music官网入口 AI图像转音乐生成器在线如何使用地址

字节万卡集群技术细节公开:2天搞定GPT-3训练,算力如何利用率超英伟达Megatron-LM

东方甄选入驻拼多多:农产品销售平台拓展新渠道

Copilot for Finance官网体验入口 AI助手财务自动化软件工具在线如何使用地址