联合国报告呼吁采取更强有力措施识别AI生成的深度伪造内容

日内瓦：联合国国际电信联盟在周五的一份报告中敦促，企业必须使用先进工具来检测和消除错误信息及深度伪造内容，以帮助应对日益增长的选举干预和金融欺诈风险。

国际电联在日内瓦"AI向善峰会"上发布的报告中指出，诸如AI生成的图像、视频以及冒充真人的音频等深度伪造内容带来了越来越大的风险。

国际电联呼吁制定强有力的标准来打击经过篡改的多媒体内容，并建议社交媒体平台等分发机构在分享前使用数字验证工具对图像和视频进行认证。

"人们对社交媒体的信任度大幅下降，因为他们分不清什么是真的什么是假的，"国际电联标准化局研究组部门负责人比莱尔·贾穆西指出。他表示，由于生成式AI能够制造逼真的多媒体内容，打击深度伪造是一项重大挑战。

自2019年以来一直致力于解决深度伪造问题的数字编辑软件领导者Adobe公司的利·罗森塔尔强调了建立数字内容来源的重要性，以帮助用户评估其可信度。

"我们需要更多用户获取内容的平台来展示这些信息...当你在浏览信息流时，你会想知道："我能相信这张图片、这段视频吗...""罗森塔尔说。

数字治理研究公司Digital Medusa创始人法尔扎内·巴迪博士强调了全球协同应对这一问题的重要性，因为目前没有一个国际监督机构专注于检测被篡改的材料。

"如果我们只有零散的标准和解决方案，那么有害的深度伪造内容可能会更加猖獗，"她告诉路透社。

国际电联目前正在制定视频水印标准（视频占互联网流量的80%），以嵌入创作者身份和时间戳等来源数据。

瑞士Umanitek公司创始人托马兹·莱瓦克敦促私营部门主动实施安全措施并教育用户。

"AI将变得更强大、更快速或更智能...我们需要提升人们的技能，确保他们不会成为这些系统的受害者，"他说。