佳礼资讯网

 找回密码
 注册
月到中秋分外圆,阖家欢聚庆团圆。一缕乡思情荡漾,月逢中秋倍思亲。游子们,回家一趟吧!佳禮论坛祝大家中秋佳节快乐,吉祥。
查看: 269|回复: 5

艾玛沃特被AI技术换脸进色情广告片??法律黑洞有苦难言!!

[复制链接]
发表于 11-3-2023 03:02 AM | 显示全部楼层 |阅读模式
最近几周,Facebook、Instagram等社交平台上高频弹出一段露骨小视频…



视频里,一名年轻女子身穿露肩低胸蕾丝裙,笑容羞涩,轻咬嘴唇…







只见她一脸暧昧地弯腰蹲下,镜头也转成俯拍…整个画面颇像是色情电影的开头情节,暗示满满。







诡异的是,视频中的女子和在《哈利波特》中饰演赫敏的演员艾玛·沃特森长得一模一样,看到广告的网友一度以为演员艾玛献身参演了某部色情电影…







当视频播放到末尾,明确的广告标语出现,大家才明白过来,这段视频其实只是一款App投放的线上广告。







这款App依托人工智能的人体图像合成技术,即“深伪技术(deepfake)”,为视频中出现的主角换脸。
App的注册用户只需要每周支付8美元,就能将任意的人像照片上传到应用程序,替换掉一段视频中指定人的脸。







只需几秒钟,一个人的脸就能被安到另外一个人的身体上,无论对方是同性异性,是否赤身裸体、行为出格…







“艾玛弯腰”这一幕也由此诞生…


仅仅周日到周一两天时间,这个App就在FB、IG共属平台Meta上一共投放了230多条广告,其中“艾玛脸”独占127条之多,几乎是刷屏般的存在。其中有80条的宣传标语还是“用任何人换脸,享受AI换脸技术”,似乎是在鼓励制作色情视频的行为。







除了国民度较高的艾玛·沃特森,欧美娱乐圈知名度稍高的女明星都没能逃过这款App的换脸推广,出镜率排第二的女艺人是斯嘉丽·约翰逊,200多条中有74条是她,视频也同样充满挑逗意味…








另外,这款App虽然明面上禁止用户上传色情含量较高的视频,但它首页提供的数十个视频模板里,本身就包含大量穿着暴露的男女跳舞、摆暗示性pose的视频,有不少是从TikTok上搬运过来的。







可在应用程序商店的简介里,它的年龄限制被标为“9岁禁”,也就是说,只要9岁以上,就可以观看、下载使用这些露骨的成人视频…







而最受质疑的还是播放这些充满性暗示广告的Meta平台…


近几年,随着深伪色情视频在互联网上越来越普遍,从明星、政客到万粉网红,甚至是普通人都深受其害,有些人被使用隐私数年毫不知情,发现时,顶着自己肖像的色情短片已经被卖遍全网。


而那些深伪色情视频爱好者们,往往还能毫不避讳地留下令人作呕的点评:“我看过视频。艾玛非常喜欢它,斯嘉丽也是如此,连一声呜咽都没有。”







这些变态爱好者中也不乏公众人物,比如前几天被揭露后公开发推致歉的30万粉主播布兰登·尤因…







因为色情视频泛滥,早在2020年,Meta就已经发布声明称他们正在加强对投放内容的管控。


比如禁止大多数采用深伪技术的视频,以及严禁在广告中使用成人内容,除了裸体,所有露骨、挑逗的姿势也会被和谐掉…







但这次这个App投放的露骨广告竟全数绕过了Meta平台的“严格”审核,大摇大摆涌入用户视线…


而那些在不知情的情况下被用了脸的受害者,即使某天发现了这种行为,也很可能投告无门,因为针对深伪照片视频犯罪的法律并不完善…


在美国,目前只有4个州——纽约、弗吉尼亚、佐治亚和加利福尼亚有专门针对深度伪造的法律,英国也是去年十一月才将深度伪造归为刑事犯罪…


如果平台也松懈监管,情况只会更加失控。


这次广告投放之所以会受到强烈关注,还是因为一位美国网友录屏了“艾玛弯腰”的小视频,在推特上发文质疑,引起负评热议…







迫于舆论压力,苹果和谷歌修改了App的评级,将其迅速下架,但也只是因为里面存在“可能恐吓、羞辱或伤害任何人的内容”,公司内部并没有专门针对深伪技术内容的管控政策。



Meta那边也撤掉了所有的App广告,但还没有任何文字回应…







看来,在平台监管、法律条文完善之前,“在陌生身体上看到熟悉脸”的噩梦,不知还会轮到谁…








来源网址:https://mp.weixin.qq.com/s/dv8nxlwcviBDF7KSS1jtCA
回复

使用道具 举报


ADVERTISEMENT

发表于 11-3-2023 09:41 AM | 显示全部楼层


AI 也懂得 制作 明星 果体 照片了。。。


@幸福草莓 @thunder @lim9999 @xiao_qing82 @qiuzi




回复

使用道具 举报

发表于 11-3-2023 09:42 AM | 显示全部楼层
yow_meng5727 发表于 11-3-2023 09:41 AM
AI 也懂得 制作 明星 果体 照片了。。。

人类的发明

注入人类自己的思想
当然能的啦。
回复

使用道具 举报

发表于 11-3-2023 10:45 AM 来自手机 | 显示全部楼层
yow_meng5727 发表于 11-3-2023 09:41 AM
AI 也懂得 制作 明星 果体 照片了。。。



ai几时会消灭人类
8d66384328a7c41a565943005bcb3de383d46afc16b1ab1d8cf9709f7154179b_1.jpg
回复

使用道具 举报

发表于 11-3-2023 10:47 AM 来自手机 | 显示全部楼层
artificial intelligence 的确是很热门的课题
回复

使用道具 举报

发表于 11-3-2023 12:14 PM | 显示全部楼层
AI这么使用不是对个人名誉权与肖像权的侵害吗?虽然明星是公众人物,但是就可以随意被换脸吗?而且不法分子还可以利用漏洞劫持手机识别摄像头,将照片活化、表情操纵等深度伪造技术冒充机主,实行诈骗。随着仿真精度的提升,数据隐私、技术滥用等安全问题为社会公共治理带来严峻挑战。https://www.sohu.com/a/487099334_664354  “AI换脸”正窃取你的隐私安全
回复

使用道具 举报

Follow Us
您需要登录后才可以回帖 登录 | 注册

本版积分规则

 

ADVERTISEMENT



ADVERTISEMENT



ADVERTISEMENT

ADVERTISEMENT


版权所有 © 1996-2023 Cari Internet Sdn Bhd (483575-W)|IPSERVERONE 提供云主机|广告刊登|关于我们|私隐权|免控|投诉|联络|脸书|佳礼资讯网

GMT+8, 26-9-2023 07:28 AM , Processed in 0.112081 second(s), 26 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表