你在网上关注的美女，可能都是AI生成的 - 柬埔寨柬单网

(, 下载次数: 2)

上传

点击文件名下载附件

举办者还附上了部分女仆的照片，看着很顶，但也很奇怪，因为有几位“女仆”的手指扭曲得不合常理。

(, 下载次数: 1)

上传

点击文件名下载附件

后来事儿闹大了，警方介入，才发现这些女仆照片，居然全都是用AI生成的。而诸如此类利用AI以假乱真的例子，在过去的一年里可谓屡见不鲜，一再刷新着我们对“真实”这两个字的认知。

01
你所爱恋的，都是幻象

今年2月，海外多家媒体发文，称付费色情平台OnlyFans可能会在不远的未来，被AI创造的色图所冲垮。媒体说这话的原因，是因为在推特平台上，有一个名叫“heartereum的”用户上传了数张由AI所生成的美女图片。

(, 下载次数: 2)

上传

点击文件名下载附件

乍看上去，图里的小姐姐们与真人别无二致。只有仔细观察，你才能发现她们身上的一处处“不协调”，然后才意识到这些辣妹，其实都只是精致的“人类模仿品”。

(, 下载次数: 0)

上传

点击文件名下载附件

虽然人是假的，但色却是真的，就像下面这哥们所说的那样：

(, 下载次数: 0)

上传

点击文件名下载附件

不过OnlyFans的从业者倒是不担心会被AI模特抢走工作，平台知名艳星Laura Lux表示，她赚钱的点不仅是裸露，还在于与粉丝的亲密互动，这一点，AI是无法胜任的。在几乎同一时间节点，国内的网络上也出现了一套由AI生成的小姐姐Cosplay图。因其过于逼真，而被B站的审核直接分类进了“仿妆Cos区”。

(, 下载次数: 0)

上传

点击文件名下载附件

Ai生成的cosplay照，角色是《明日方舟》里的缄默德克萨斯，创造者：勘云工造

这事儿充满一种“齐马蓝式”的科幻寓言感：人类用PS修图，努力将自己的面容P到完美，而AI却努力去模仿真人脸上的复杂与瑕疵，最后二者实现了某种动态平衡。

(, 下载次数: 2)

上传

点击文件名下载附件

男生也可以，创造者：海辛Hyacinth

创造这套图的，是国内的博主“勘云工造”。在他的微博时间线上，技术的迭代似乎每隔几天就会出现一次。

(, 下载次数: 1)

上传

点击文件名下载附件

当漂亮的写真可以被人工智能愈发完美地一次次复现时，你可能就无法意识到，小红书上那个名叫“爱旅游的小多”的美女博主，其实只是一个由AI所缔造的存在。

(, 下载次数: 0)

上传

点击文件名下载附件

德国的ColorDigital，已经开始组建自己的“数字模特营销团队”，用被生成的、身材完美的AI模特，来给各种潮牌做宣传。

(, 下载次数: 0)

上传

点击文件名下载附件

AI生成的

而要说AI合成图像最近最狠的一次应用，那还得看Youtube博主Kyle Vorbach——这哥们决定在社交媒体上，利用AI伪造出自己一个月的全部生活。

(, 下载次数: 1)

上传

点击文件名下载附件

最开始，他只是在Instagram上生成了一张自己从未拍过的自拍照。

(, 下载次数: 3)

上传

点击文件名下载附件

AI合成的

然后，Instagram上的照片变成了小哥穿上了万圣节的服装；变成了他前往了纽约街头，见到了自己的好友——当然，这一切都是假的。然而，它们却成功骗过了小哥的朋友们。他们以为他真在纽约，有人甚至都准备打扫屋子迎接他了。

(, 下载次数: 2)

上传

点击文件名下载附件

AI合成的

之后，小哥开始让AI去完成它更多的幻想：他成了成功人士，搬到了纽约，和自己的爱犬住进了漂亮的公寓，在街头偶遇名人……

(, 下载次数: 3)

上传

点击文件名下载附件

AI合成的

在千万次的训练下，AI创造出了一条完全平行的时空线，在那些真的可怕的合成照片里，小哥甚至开始觉得，机器所合成的他，似乎就是真正的他。

诸如此类的案例，正变得越来越多，而许多本不该被击穿的“真实底线”，也开始遇到了数字虚拟的全面刺破——有人开始用AI生成的作品沽名钓誉，甚至开始搞数字诈骗。

02

你所看见的，都是虚假

从去年10月开始，Instagram上火了一个叫Jos Avery的摄影师。

(, 下载次数: 2)

上传

点击文件名下载附件

这个Jos，以其精湛的人像摄影，在短时间内征服了3万多名粉丝。

并且，面对摄影新人的请教，Jos还贴心地指导他们：“我这张照片，是用尼康D810拍的，用的是24-70毫米的镜头。”

然而在一段时间后，Jos本人实在忍不住，向Ars Technica的记者坦言：“其实我根本就不是什么摄影师，这些人像都是我用AI生成出来的。”

(, 下载次数: 0)

上传

点击文件名下载附件

这不禁让人想起国内最近有个知名的画师，因被曝出用AI绘画而塌房，让许多模仿他作画的萌新失去了继续画下去的动力，也让许多网民开始了一场赛博猎巫——逼画师们自证在绘画中没用过人工智能辅助。

(, 下载次数: 3)

上传

点击文件名下载附件

与之类似，当人类的容貌，可以被机器在短时间内创造出成百上千张，就会有像Informa Systems 这样的企业，用生成的脸孔创造假的员工，让公司看上去有一个人数众多的专业团队。

(, 下载次数: 1)

上传

点击文件名下载附件

同一时刻，Facebook的母公司在去年底表示，在它们2022年的取缔活动中，有三分之二的违禁账户，用的头像是AI生成的。

(, 下载次数: 2)

上传

点击文件名下载附件

这并不让人感到意外，因为在2022年的一篇论文里，研究者发现有3成到5成的美国人，根本就无法在真实脸孔和用DeepFake所生成的虚拟脸孔间做区分。

所以在TikTok上，由AI合成的明星整活儿类视频遍地都是，难辨真假，比如下面的这个基努里维斯：

(, 下载次数: 0)

上传

点击文件名下载附件

对于骗子来说，DeepFake实在是一件的趁手的工具。

去年8月，有个诈骗团队就利用DeepFake，伪造出一张数字货币公司高管的脸。骗子将这张假脸套在自己的面部，然后通过在线聊天软件Zoom，去和那些项目团队的成员开会，让他们以为自己正在和大公司的负责人对接。”

(, 下载次数: 1)

上传

点击文件名下载附件

被“偷脸”的这位高管表示，这群骗子的技术很厉害:“他们唯一没模仿出来的，就是我在疫情期间胖出来的那15磅。”

不止面孔，像Midjourney这样的图像生成AI，甚至会影响你对这个世界的认知。

譬如去年9月26日,东京时间凌晨4点39分，有一名家住东京的推特用户，发了三张静冈县遭遇水灾后的惨状。

(, 下载次数: 0)

上传

点击文件名下载附件

该贴被迅速转发，许多网友又是震惊不已又是要筹措捐款。

结果在推文发出11小时后，原作者道歉，称静冈发水灾是真的，但灾情图片却是他用AI做出来的。他也知道撒谎不好，但就是舍不得海量的推特转发和点赞。

无独有偶，在今年2月初的土耳其叙利亚大地震后，也有人在网上用一张“地震现场的救援图”来号召爱心人士们捐款，结果立刻就被眼尖的网友扒出来，说这图上的人有六根手指，应该是用Midjourney做出来的。

(, 下载次数: 1)

上传

点击文件名下载附件

而当被AI生成的图像，配合上同样被AI生成的音频与文字时，那你所理解的一切真实，就将会迎来一场彻底的崩塌。

03
你所相信的，都在崩塌

在以假乱真这个层面，AI合成的音频丝毫不逊色于图像。

上个月， ElevenLabs发布了自家的语音合成平台，原本是帮助电影和游戏配音，结果很快就被网友们拿来合成“比尔·盖茨称新冠疫苗会造成艾滋病”，以及“艾玛·沃特森大声朗读《我的奋斗》”。

而早在去年12月，中国台湾的刑事局就已经破获了一起AI语音诈骗案。

(, 下载次数: 1)

上传

点击文件名下载附件

骗子先以5万新台币的价格从科技公司购入诈骗电话的AI模组，然后在8个月的时间里群发上百万次，赚了2700万新台币的赃款。

而当AI合成视频加上了AI合成音频，你便能在社交媒体上刷到埃隆·马斯克在镜头前忏悔自己吸毒过量，知名电台主持人乔·罗根（Joe Rogan）教观众如何去亚马逊购买他推荐的壮阳药。

(, 下载次数: 0)

上传

点击文件名下载附件

在算法的加持与混淆下，那个“将名人的话语奉为真理”的时代正在离我们远去。

这还没完。

前些日子，ChatGPT正好在情人节前后大火，加拿大反欺诈中心便趁此机会警告世人：未来操纵感情杀猪盘的，很可能就是这些聪明的聊天AI。

(, 下载次数: 0)

上传

点击文件名下载附件

而安全公司McaFee的研究则表明，10个人里有7个都会把AI生成的情书，当成是真人所撰写的甜言蜜语。

与此同时，美国知名科幻杂志《克拉克世界》被迫暂停投稿渠道，只因他们在短短一个月内，接到了500多篇由AI所生成的小说稿件。

(, 下载次数: 0)

上传

点击文件名下载附件

"目前已关闭稿件提交，原因不难猜出”by 克拉克世界

欧洲执法组织去年9月预言：“到 2026 年，全网有多达 90% 的在线内容可能是合成生成的。媒体将大多由人工智能生成与操纵。”

当然，为了防止以后互联网上“无内容可信”，各国也想出了相应的对策——利用一套专门用来打假的AI。

像韩国就声称将在2月的月底，用AI来辅助侦破电信诈骗案，而创造了ChatGPT的OpenAI，最近刚研究出了一个专门鉴别ChatGPT的AI。

(, 下载次数: 1)