作者：比尔·麦卡锡和阿努吉·乔普拉
一段捏造的美国高中校长的音频片段引发了轩然大波，让他与种族主义和反犹太主义的指控作斗争，这一案件引发了人们对人工智能操纵的新警报。
警方指控马里兰州学校的一名心怀不满的工作人员使用人工智能制作了 1 月份曝光的录音，据称该录音是校长埃里克·艾斯沃特 (Eric Eiswert) 对犹太人和“忘恩负义的黑人孩子”的咆哮。
这段视频让派克斯维尔高中的管理人员接到了大量愤怒的电话和威胁，这凸显了广泛使用的人工智能和编辑工具很容易被滥用来冒充名人和普通公民。
在包括美国在内的全球重大选举的一年里，这一事件还展示了随着法律的追赶，现实的深度造假的危险。
加州大学伯克利分校数字取证专家 Hany Farid 告诉法新社：“你需要一张图像才能将一个人放入视频中，你需要 30 秒的音频来克隆某人的声音。”
“除非躲在岩石下面，否则你几乎无能为力。
“威胁媒介已经从世界各地的乔·拜登和泰勒·斯威夫特转移到高中校长、15 岁的孩子、记者、律师、老板、祖母。现在每个人都容易受到攻击。”
官方调查结束后，学校 31 岁的体育总监达中·达里恩 (Dazhon Darien) 于上个月末因这段视频被捕。
指控文件称，音频出现后，派克斯维尔高中的工作人员感到不安全。老师们担心校园里被录音设备窃听，而艾斯沃特的社交媒体上充斥着辱骂性的信息。
一位 X 用户在给 Eiswert 的信中写道：“如果你在泥土的另一边，世界将会变得更加美好。”
艾斯沃特没有回应法新社的置评请求，他已被学校停职，并需要家中的安全保障。
”损害”
当这段录音于一月份在社交媒体上传播时，在一个受欢迎的 Instagram 帐户的推动下，该帐户的帖子吸引了数千条评论，这场危机使该学校成为全国关注的焦点。
活动人士德雷·麦克森 (DeRay McKesson) 放大了音频，要求艾斯沃特解雇他在 X 上的近百万粉丝。当指控浮出水面时，他承认自己被愚弄了。
“我仍然担心这些行为造成的损害，”代表艾斯沃特的工会执行董事比利·伯克在谈到这段录音时说道。
此次操纵行为发生之际，美国多所学校一直在努力遏制人工智能深度伪造色情内容，导致学生在缺乏联邦立法的情况下受到骚扰。
巴尔的摩县检察官斯科特·谢伦伯格 (Scott Shellenberger) 在新闻发布会上表示，派克斯维尔事件凸显了“使法律与技术保持同步”的必要性。
他的办公室正在以四项罪名起诉达里恩，其中包括扰乱学校活动。
“一百万校长”
调查人员通过将音频与最初分发音频的电子邮件地址连接起来，将音频与体育总监联系起来。
警方表示，这起抹黑事件是为了报复艾斯沃特去年 12 月启动的调查，调查达里恩是否授权向一名教练（同时也是他的室友）非法付款。
根据指控文件，达里恩在音频发布之前通过学校网络搜索人工智能工具，并且他一直在使用“大型语言模型”。
© 2024 法新社
