那些担心人工智能如此之好以至于失去控制,使人类成为机器人的人——被捏造的谎言冒充的真相的受害者最好忽略最近的研究,它肯定会干扰他们的睡眠。本文研究了人工智能生成演讲的成功实现。

听着,这些疯狂的时代会变得更疯狂。虚线后面的人会继续对任何与他们的观点相冲突的信息大喊假新闻。站在条纹线后面的人会大喊假新闻,因为这些词可能是人工智能生成的假新闻(以及照片和视频)。

TechCrunch是报道这项研究的网站之一,它讲述了使用人工智能制作一篇联合国演讲只需要不到10美元。且不说不到十美元,这一壮举是用更少的钱完成的。

“这个团队得到了一个现成的语言模型,”多诺万·亚历山大(Donovan Alexander)在《有趣的工程》(Interesting Engineering)杂志上说。他说,测试组件是“一个简单的深度学习模型和廉价的云存储”。

TechCrunch的乔纳森·希伯(Jonathan Shieber)表示,用不到7.8美元和13个小时的编程时间,“来自联合国的研究人员能够开发出一个程序,为联合国大会(United Nations’General Assembly)精心制作看似真实的演讲。”

约瑟夫·布洛克和米格尔·卢恩戈-奥罗兹是进行这项实验的两位研究人员。他们的目标是:训练一种语言模型,可以生成从气候变化到恐怖主义等各种主题的演讲风格的文本。

他们在arXiv上发表的论文中讨论了他们的工作,论文题为“从联合国大会声明中自动生成语音:人工智能生成文本中的映射风险”。

成本和培训时间数据从何而来?论文的作者说,语言模型在NVIDIA K80 gpu上训练了不到13个小时,在AWS spot实例上只花了7.80美元。

本文的两位作者是Global Pulse的成员,Global Pulse是联合国秘书长发起的一项联合国行动。它的重点是大数据——也就是说,促进以安全、负责任的方式利用大数据的进展。

他们提供了1970年至2015年联合国大会演讲的英文文本。结果:他们的软件可以为每个主题生成50到100个单词,只需输入一两个与标题主题相关的句子。

亚历山大说,这些演讲“将足够强大,足以吸引今天联合国的人群。”

他们常用的模型是在维基百科(Wikipedia)上训练出来的,后来40年来政治领导人在联合国大会(UN General Assembly)上发表的演讲都是用这个模型制作的。

Shieber报道了更多的发现。在大约90%的情况下,该计划能够生成可信的文本,足以让大会发言人就某个政治话题或与秘书长所处理的某个问题相关的文本。

Karen Hao,《麻省理工学院技术评论》:研究人员在三种类型的提示上测试了该模型:一般主题(例如,“气候变化”)、联合国秘书长讲话开头的几句话和煽动性的短语(如“气候变化”)。“移民是罪魁祸首……”)。

不出所料,他们发现第一类的产出与真实的联合国演讲有90%的相似度。但是,第三类的产出需要进行更多的工作,有60%的时间产出令人信服的产出。

尽管如此,这一切还是让希伯得出了一个令人振奋的结论:“深度造假的时代已经来临,伪造的文本可能和伪造的视频一样,都是一种威胁。”也许更多,因为它们的生产成本很低。”

那么作者呢?当然,用他们自己的话来说,他们的动机是“提高人们对人工智能文本生成对和平与政治稳定的危险的认识”。

特别值得一提的是,亚历山大指出,把假的演讲稿当做可信的东西来使用是多么容易和廉价。他写道,“在不久的将来,人们很有可能在几乎没有资源的情况下,创造人工智能演讲和政治内容来传播错误信息,或者只是利用它们来获取政治利益。”

难道不可能核实联合国记录,以确保问题中的物品是真实的,而不是伪造的吗?很多人都懒得去检查或有冲动去检查。作者写道,一个可能产生争议的文本的语音,甚至创建一个“假”的视频的人讲话,“考虑到所有这些信息可以立即通过社会媒体发表,许多人不会检查原始记录和假设它是真的。"

我们将欢迎更多的努力来检测和响应人工智能生成的内容。