冒牌者利用人工智能冒充卢比奥联系外国和美国官员

华盛顿（美联社）——根据两名高级官员和上周发送给所有大使馆和领事馆的电报，国务院正在警告美国外交官，有人试图利用人工智能技术冒充国务卿马可·卢比奥以及其他可能的高级官员。

这一警告是在国务院发现一名冒充卢比奥的人试图联系至少三名外长、一名美国参议员和一名州长后发出的。该7月3日的电报由《华盛顿邮报》首次报道。

诈骗信息的接收者通过短信、Signal和语音邮件收到这些信息，电报中未透露他们的身份，电报副本已与美联社共享。

国务院发言人塔米·布鲁斯告诉记者：“国务院已意识到这一事件，目前正在处理此事。国务院认真对待保护信息的责任，并将采取措施改善部门的网络安全态势，以防止未来发生类似事件。”

由于“安全原因”和正在进行的调查，她拒绝进一步置评。

这是特朗普政府高级官员成为冒充者目标的最新案例，今年5月曾发生过类似事件，涉及总统唐纳德·特朗普的幕僚长苏茜·怀尔斯。随着人工智能技术的改进和普及，利用AI欺骗他人的行为可能会增加。FBI在今年春季警告称，“恶意行为者”正在通过短信和语音信息活动冒充美国政府高级官员。

一名官员表示，涉及卢比奥的骗局并未成功，且“并不复杂”。尽管如此，另一名官员表示，国务院认为“谨慎”起见，建议所有员工和外国政府提高警惕，尤其是外国行为者破坏信息安全的努力正在增加。

这些官员未被授权公开讨论此事，因此匿名发言。

电报称：“这一活动并未对国务院构成直接的网络威胁，但如果目标个人被攻破，与第三方共享的信息可能会泄露。”

FBI在一份公共服务公告中警告称，存在一种“恶意”活动，依赖短信和AI生成的语音信息，这些信息声称来自美国高级官员，旨在欺骗其他政府官员以及受害者的联系人和熟人。

这不是卢比奥第一次被深度伪造技术冒充。今年春天，有人制作了一段虚假视频，声称他表示希望切断乌克兰对埃隆·马斯克的星链互联网服务的访问。乌克兰政府随后驳斥了这一虚假声明。

近年来，针对日益增长的AI滥用欺骗行为，已提出多种潜在解决方案，包括刑事处罚和提高媒体素养。对深度伪造的担忧也催生了许多新应用和AI系统，旨在识别可能轻易欺骗人类的虚假内容。

布法罗大学教授兼计算机科学家Siwei Lyu表示，开发这些系统的科技公司正在与那些利用AI进行欺骗的人竞争。他表示，随着技术的进步，他看到的深度伪造名人、政治人物和商业领袖的数量有所增加。

就在几年前，伪造内容还存在容易发现的缺陷——如非人类的声音或多余的手指等错误——但现在AI技术如此先进，人类更难辨别，这给了深度伪造制作者优势。

“真实感和质量水平正在提高，”Lyu说。“这是一场军备竞赛，目前生成者占据了上风。”

《华尔街日报》5月报道称，卢比奥骗局发生之前，有人似乎获得了怀尔斯个人手机中的联系人信息，并向民选官员、企业高管和其他知名人士发送了短信和拨打了电话。

据该报报道，一些接到电话的人听到一个听起来像怀尔斯的声音，可能是由AI生成的。报道称，这些信息和电话并非来自怀尔斯的号码。政府正在调查此事。