佳礼资讯网

 找回密码
 注册

ADVERTISEMENT

佳礼资讯网 首页 佳礼网 网络 查看内容

惊悚慎点!网友用AI画画,不小心造出“赛博女鬼”,无处不在甩不掉?!

10-9-2022 01:26 AM| 发布者: anyting | 评论: 3

摘要: 本文部分图片可能引起不适,请谨慎阅读本文部分图片可能引起不适,请谨慎阅读本文部分图片可能引起不适,请谨慎阅读这两天,推特网友目睹了一桩诡异至极的怪事,一个音乐人为了好玩,用AI的“反向关键词加权技术”创 ...
惊悚慎点!网友用AI画画,不小心造出"赛博女鬼",无处不在甩不掉?!



本文部分图片可能引起不适,请谨慎阅读
本文部分图片可能引起不适,请谨慎阅读
本文部分图片可能引起不适,请谨慎阅读



这两天,推特网友目睹了一桩诡异至极的怪事,



一个音乐人为了好玩,用AI的“反向关键词加权技术”创造出一个女人,
没想到之后,她在无数照片中反反复复地出现,画面越来越血腥可怖。

无论音乐人如何更改关键词,她总能复现,而且永远是主角。
哪怕更换AI模型,这个女人也会再次到来。


这件事已经成为一个“赛博都市传说”,
网友们开玩笑说,这是用人工智能召唤出了数字恶魔……

那个倒霉音乐人的网名叫Supercomposite,
为了方便就叫他SC好了。

SC说自己是一个科技爱好者,自从各类AI图片生成器开放后,他就喜欢输入关键词,看看AI会创作出什么画面。

几个月前,SC用到一种叫“反向关键词加权”(negative prompt weights)技术。
这个技术和平常的AI图片生成差不多,
区别只是,AI会尽力创造出和关键词相反的内容。


SC是马龙·白兰度的粉丝,他想知道白兰度的相反面是什么,于是输入“Brando::-1”。

AI生成了一个意义不明的logo,上面有黑色的城市剪影,还有“DIGITA PNTICS”字样(这个词无意义)。


SC心想,如果这个logo是白兰度的相反面,那把logo重新输入AI,会不会输出白兰度的照片?

出于他也说不清的理由,他没有提交logo图片,而是把那张图用文字描述了一遍,将“DIGITA PNTICS skyline logo::-1”作为关键词输给AI。

然后,事情诡异起来了……

AI创作出4张图片,每张图里都有一个高颧骨、圆鼻头、脸上有红斑痤疮的中年女人。
她神情哀伤,眼睛里似乎含着泪水。


在一张看上去很像唱片封面的图片里,有着“LOAB RSSBON”的字样,SC就把这个女子取名叫Loab。




为了冲淡那种阴沉的气氛,SC向朋友要来一张图。
它也是AI生成的,正向关键词是“满是天使的超压缩玻璃隧道,韦斯·安德森的风格”。

(注:韦斯·安德森是美国导演,执导过《布达佩斯大饭店》)

SC将天使图和其中一张女子图合并起来,让AI创作出它的相反图。


结果,情况变得更加吓人了!

“出于无法解释的原因,噩梦开始了。” SC在推特上写道,
“也许,AI出现了某种突发性的运作事故,总之在它的世界里,这个女人与世界上最血腥、最恐怖的画面联系了起来。”

“因为Loab是用反向关键词技术造出来的,所以她实际上是由一堆彼此毫无关联的东西组成的。
但是AI把她当作了一个完整的概念来对待。之后几乎每一张图,都有能让人认出来的Loab。”

AI输出的图像是B级惊悚片的截图,充斥着没有眼球、浑身是血的女人,还有很多畸形的儿童。


SC说,更恐怖的儿童残肢图他没放上来,怕大家受不了。

这些图中仍然有Loab,她的高颧骨和红脸颊让人过目不忘。
但奇怪的是,根据“反向关键词加权”技术的特性,创作出的对立面图不应该有相似的角色。


“我被图片里那些怪诞的画面震住了,它们表达出强烈的绝望、恐惧和悲伤。之后,我用Loab图和不相干的图片结合,输入给AI,它输出的图仍然差不多。”

SC说的“不相干图片”都有着正常内容,和恐怖血腥没关系。
但只要它们和原始Loab图合并,结果就是可怕的。


除了氛围吓人外,这些图里都有高颧骨、鼻子凸出的女人,身边带着孩子。
也就是说,Loab仍然存在。


SC非常困惑。他试图抹除Loab,将AI生成的二代图和无关照片合并,然后喂给AI。
按道理,此时Loab的影响应该很小了,有太多视觉元素能压过她。

可仍然没有!
AI对Loab异常执着,图片里还是有这个脸颊凸出的女人,看上去和最初的Loab差别不大。


SC不信邪,将它们和其他照片合并,输出一批新的图,然后再合并,再输入。
他反反复复操作了很多次,用了风格差异很大的照片,可Loab就是没法消失。

他试着将图和关键词结合,词汇包罗万象,什么都有。但无论输入什么词,AI做的图里还是有Loab。


SC怀疑是AI坏了,他更换了多个AI模型,将上面的操作重复了一遍。

结果,Loab坚挺地存在着。


“到这里,我已经快疯了。我手头上已经有几百张Loab的图片,我尝试把它和3、4张无关图片结合,但就是没有效果。” SC在推特上写道。

“有些时候,就算红脸颊等重要特征消失了,你仍然可以看出图片里浓浓的‘loab感’。这种相似感是无法被否认的。”

“她就像鬼魂一样,出现在一代又一代的图片里,强力压过其他关键词和照片。AI总是喜欢先优化她的脸。”


SC说,他试过给一些奇怪的关键词,故意让AI扭曲Loab。有些时候,Loab确实能消失,但消失了几代后,她又会突然出现。

这很不同寻常,简直无法解释。SC说他怀疑AI的隐秘空间(指信息输入和输出之间,人类不了解的数字空间)对Loab有偏向,将她标记成了重要角色。


SC的推特发出去后,网友们又害怕,又兴奋。

有人将Loab的名字倒着写,发现baol的意思是“丑陋,畸形”。也许可以解释为什么相反图做出来会这样。


有好事者将Loab做成了周边。


短短几天,Loab已经有了粉丝,推特上有人给她画同人图,还给她建了维基百科。


一些人真心相信Loab是恶魔,开始真情实感地担忧起来,另一些相信科学的人认为,Loab证明了AI存在无法理解的偏好。


媒体采访SC,他说自己不能透露用了哪个AI,但他试过很多AI,Loab都存在。

不少人质疑他是炒作,SC的朋友发出今年4月份的截图,证明当时他们就在讨论这个奇怪的现象了。


没有人知道AI到底是怎么想的,为什么它偏好Loab,为什么Loab的图那么可怕。

这些绘图AI是经过数十亿张图片训练后形成的模型,对人类来说,它的思考方式过于复杂,不可能搞懂。
这也就是为什么SC等人把这个过程称为“隐秘空间”,它就像一个无法被观察的黑匣子。


6月份,得克萨斯大学奥斯汀分校的计算机博士詹尼丝·达拉斯(Giannis Daras)有类似的发现,AI似乎有自己的想法,甚至有一套秘密的语言。

达拉斯用的AI是DALLE-2。他先是输入一段文字,“两个农民在谈论蔬菜,带文字”,让AI生成相关图片。


图片里的文字看上去是没有意义的,比如Vicootes,Apoploe vesrreaitars,它们在所有语言里都不存在。

但达拉斯把Vicootes输入DALLE-2后,发现输出的文字相当统一,都是关于美食的。

输入Apoploe vesrreaitars,出来的图里全是鸟儿。


结合那张图,两个农民似乎在用某种不存在的语言,谈论着小鸟偷吃自家的蔬菜。

达拉斯又试了一句关键词,内容是“两条鲨鱼在谈论食物,带文字”。
输出的图片里,鲨鱼在说“wa ch zod rea”,
用这段文字生成的图片,是海鲜!


类似的例子还有很多,达拉斯将它们写成一篇论文,目前还没有被同行评审。


一个叫本杰明·希尔顿(Benjamin HIlton)的学者反驳他的话,说这不是“AI的秘密语言”,而是巧合。

但他反驳的证据不是很有力,实际上,还让人更信了。

比如,他反驳达拉斯说“Contarra ccetnxniams luryca tanniounons”的意思是“虫子”,因为他输出的图有很多其他东西。


但在截图里,确实有很多昆虫。而且,全是动物这件事已经足够奇怪了。

希尔顿在随意的文字后加入“3d render”,发现输出的图都和海洋有关。


他甚至也承认,“Apoploe vesrreaitars”确实很奇怪,出来的图里全是鸟。

希尔顿说,他猜测AI是将这些无意义的字母当成了动物的学名,后者也是一堆又长又怪的字。


真相到底是怎样的呢?没有人知道。

一名AI研究员告诉媒体,在研究深度学习系统时,经常出现这样的怪事。
这让建设AI的人都感到困惑。

“我不是开玩笑。在我们处理AI的时候,我感觉自己不是程序员,而更像是一个微生物学家,或者认知行为心理学家。”

“神经网络根本不像代码,它的行为更像是培养皿里的生物。你只能看着它发展,通过不断喂给它东西,尝试理解它的想法。”


AI其实是有偏好和想法的电子生物?
这个说法有点吓人,但也很有趣。

想要理解它们到底是怎么想的,还需要更多时间。
希望到那时候,人类可以更好地调教这些庞然大物,告诉它们别再生产恐怖的Loab图了……


事儿君 英国那些事儿
https://mp.weixin.qq.com/s/Ou-143DKpK3wGIWO4NtchA


生气

惊讶

难过

好笑

无聊

ADVERTISEMENT


相关阅读

发表评论 | 在论坛留言

最新评论

引用 使用者 10-9-2022 06:48 PM
嗯。不錯的概念。
引用 tauruslau 10-9-2022 11:07 PM
普通……
引用 babysean 10-11-2022 12:09 PM
AI中的女鬼~~~

查看全部评论(3)


ADVERTISEMENT



ADVERTISEMENT




ADVERTISEMENT



ADVERTISEMENT


版权所有 © 1996-2022 Cari Internet Sdn Bhd (483575-W)|IPSERVERONE 提供云主机|广告刊登|私隐权|免控|投诉|联络|脸书|佳礼资讯网

GMT+8, 5-12-2022 01:48 AM , Processed in 0.132176 second(s), 34 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

返回顶部