种族主义的AI deepfake愚弄和分裂了一个社区
盖蒂/英国广播公司
当一段显示当地一所学校校长发表贬损言论的音频片段出现时，它在网上疯传，引发了对这位教育工作者的死亡威胁，并在巴尔的摩市郊引起了涟漪。但它很快就被曝光是假的，是由人工智能操纵的——那么为什么人们仍然相信它是真的呢?
“我真的不明白为什么我每天都要忍受这些笨蛋。”
于是，派克维尔高中(Pikesville High School)校长似乎开始了一段冗长的长篇大论，其间穿插着种族主义、反犹主义和冒犯性的比喻。听起来像是被秘密录下来的。
演讲者接着哀叹“忘恩负义的黑人孩子”和社区里的犹太人。
这段视频于今年1月首次发布，在全国范围内疯传。但它确实触动了宁静、绿树成荫的派克维尔郊区以及附近的马里兰州巴尔的摩市的神经，那里有大量的黑人和犹太人社区。校长埃里克·艾斯沃特被勒令带薪行政休假，等待调查。
住在巴尔的摩附近的黑人男子阿尔菲·马龙(Alfie Malone)看到他所在社区的其他成员发布了这段视频，并认为这是真的。
马龙表示:“在你的内心深处，你认为这可能是人们对我们的真实感受。”“然后通过音频听到这些声音。”
为了证实自己听到的声音，马龙在社交媒体上查看了艾斯沃特的其他真实录音，听起来都一样。
所以这个兼职邮差兼兼职播客点击了转发按钮。
随着越来越多的人在网上传播，这段视频开始在社交媒体上引起关注。其中一个被分享最多的版本在几个小时内就超过了200万的浏览量。这已经是整个派克维尔人口的60倍了。
但分享这段视频的人当时并没有意识到另一个重磅炸弹即将落下:这段视频是人工智能生成的假视频。
在BBC广播4频道的《美国你为什么恨我》节目中，我一直在马里兰州调查这段视频对那个小镇的影响。它读起来几乎就像一个关于人工智能带来的危险的寓言，尤其是当当地社区成为目标时。
当这段视频落在《巴尔的摩旗报》(Baltimore Banner)教育记者克里斯汀·格里菲斯(Kristen Griffith)的桌子上时，她以为这将是一个相对简单的故事:一位教师因发表冒犯性言论而被曝光。
但作为新闻业的最佳实践，格里菲斯女士想给校长一个发表评论的机会，并讲述他的故事。因此，她联系了他的工会代表，后者表示，艾斯沃特不仅谴责了这些言论，而且没有发表这些言论。
“他马上说，哦，我们认为这是假的……我们认为这是人工智能，”她告诉BBC。"我以前没听过这个角度"
但当她发表这一解释时，她的读者并不相信。这段视频非但没有引起人们对其真实性的质疑，反而引发了人们的强烈反对，他们认为造假指控只是一个借口或逃避责任的企图。
正是在这一点上，当地警方开始调查此案。派克维尔高中的工作人员告诉他们，由于受到如此多的关注，他们感到不安全，他们担心学校里安装了录音设备。
艾斯沃特校长的名誉也受到了严重的打击。他和学校周围都加强了保安。他成为了社交媒体仇恨和威胁的目标。我在社交媒体上发现了几十条针对他的辱骂信息。
盖蒂图片社
今年4月，巴尔的摩警察局长罗伯特·麦卡洛(Robert McCullough)证实，他们现在有“确凿的证据证明录音不真实”。
他们相信他们知道是谁制造了赝品。
警方指控该校31岁的体育主管达里奥(Dazhon Darien)与虚假视频有关的几项罪名。指控包括盗窃、报复证人和跟踪。
他在机场被捕，警方称他当时正计划飞往德克萨斯州的休斯顿。
警方表示，达里恩先生因涉嫌从学校盗窃1916美元(1460英镑)而受到伊斯沃特校长的调查。他们还声称存在“工作表现挑战”，他的合同可能不会续签。
他们的理论是，通过制作深度伪造录音，他希望在被解雇之前诋毁校长。
调查人员表示，他们追踪了一封用于将原始视频发送到与达里恩相连的服务器的电子邮件，并声称他利用巴尔的摩县公立学校(Baltimore County Public Schools)的计算机网络访问人工智能工具。他将于2024年12月接受审判。
达里恩的法律代表没有回应记者的置评请求。
巴尔的摩县学校负责人米利亚姆·罗杰斯此前曾表示，对于学校社区、校长和他的家人来说，这是一个“非常困难的时刻”。
Pikesville高中和Eiswert先生的代表没有回应我进一步置评的请求。
因为这段视频是纯音频的，这意味着没有视觉上的泄露，比如机器人的动作通常会揭示人工智能的操纵。它还提到了术语，比如“年级预期”，以及其他细节，比如教员姓名，这些只有和学校关系密切的人才知道。
然而，当你仔细听时，句子之间有明显的剪辑——声音虽然和校长相似，但听起来很单调。人工智能可以使用几分钟的真实录音，比如你最喜欢的电影演员或总统候选人的演讲，然后生成一个片段，让它听起来像他们说了一些他们从未说过的话。
但马龙告诉我，人们之所以相信这段视频是真实的，或许最大的原因是它给人的感觉是真实的。
它挖掘了他作为一名生活在巴尔的摩的黑人的种族主义经历。
当马龙先生听到校长说黑人学生懒惰时，这立刻让他想起了他在学校和工作中遇到的侮辱和歧视。
几个月后，假音频剪辑的效果仍然可以在派克维尔感受到。艾斯沃特先生换了工作，在另一所学校工作。尽管一些社区成员告诉我，他们现在承认视频是假的，但损害已经造成。
去年8月，在高中对面的一所房子里，一位名叫沙伦(Sharon)的妇女把孙子的婴儿车装进了一辆车里，她对我说:“这是一个犹太人社区，对这个社区发表如此煽动性的言论令人不安。”
莎伦跟我聊了几分钟，就好像那段视频是真的一样。
“我认为当人们说这样的话时，其他人也会加入进来，这让我更害怕。”
当她的丈夫在车里插话，提醒她这段视频实际上是假的时，她承认她“后来发现这是人工智能生成的”。但她说她还是很生气。
我发现，对于像莎伦这样相信这段视频是真实的人来说，即使是很短的一段时间，它也会留在他们的脑海里——尤其是当其中的信息与种族主义和歧视的真实经历相呼应时。这让我想起了我在调查错误信息和阴谋论时一次又一次听到的话:“好吧，即使这不是真的，我认为他们是这么想的。”
所有主要的社交媒体公司都表示，他们有政策来标记、删除和限制人工智能生成的帖子的传播。但只有在证明视频是假的情况下，才会采取这种行动。到那时，它可能已经感染了数百万人。
阿尔菲·马龙说，甚至在那天早些时候，他还和一个朋友聊过，那个朋友还不知道这段视频是人工智能制作的。
“老实说，我相信这座城市里的很多人都不知道这不是真的，”他说。
他说，他对校长艾斯沃特被错误地指责发表评论感到抱歉。他还担心，这一事件削弱了种族主义的真实经历。
他说他在再次分享这样的视频之前会三思而后行。
“我曾经被火烧伤过一次。我再也不碰炉子了。”