OpenAI、Meta 等七巨头联手，打造 AI 时代的防伪「身份证」

由 AI 生成的内容也要有「身份证」了。

近日，包括 OpenAI、Meta 在内的七家科技巨头承诺将采用一些安全措施来增强 AI 技术的安全性。

值得注意的是，在承诺中，这七家科技巨头都不约而同谈到了 AI 的监管问题并承诺将共同开发和应用一种水印系统，可用于人工智能生成的所有形式的内容，包括文本、图像、音频和视频。

通过留意嵌入内容中的水印标识，用户能够自行甄别由 AI 生成的深度伪造的图像或音频，从而在用户端上降低暴力、诈骗等负面信息内容的传播风险。

▲图片来自：Pexels

事实上，自去年 ChatGPT 爆火以来，入局的科技巨头势必要在这场竞争中拔得头筹，AI 技术的发展一日千里。

而随之，不成熟的 AI 技术也衍生出一些值得关注的问题，其中首当其冲的正是如何甄别信息内容的真实性。

2019 年，一名诈骗犯利用 AI 语音模仿软件冒充成公司的大老板，成功让一家英国能源公司的 CEO 以为自己正在跟德国母公司的老板通话。

在电话中，诈骗犯凭借 AI 技术模拟后的语音，让该 CEO 立即转账 22 万欧元（注：约合 176 万人民币）到匈牙利的一家供应商的银行账户，以避免缴纳「滞纳金」，并要求将转账信息以邮件形式发送。该 CEO 在模拟语音的迷惑下，毫不犹疑地照做了，然后，这 22 万欧元就这样「打水漂」了。

为这家能源公司承保的保险公司表示：「骗子使用的某种 AI 软件，不仅能够模仿他人的声音、语调，甚至还能模仿带德国口音的英语。」被骗的 CEO 在一份电子邮件中愤怒地写道：「（假的）「约翰内斯」甚至在我与真正的约翰内斯通话时，要求跟我通话」。

▲图片来自：Pexels

这过于离谱的事件，也普遍引发了用户对 AI 无序发展的担忧。突破常规的人工智能技术被用于诈骗时，更像是「猜猜我是谁？」的进化版。

但在降维打击面前，普通人的警惕心显得毫无用武之地。

而这还只是发生在 2019 年的事件，须臾三年，AI 技术的迅猛发展足以让人瞠目结舌，而信息内容真实性问题也再次回到公众视野。

倘若以「AI 诈骗」为关键词，在搜索引擎上筛选最新资讯，我们会发现当前关于 AI 诈骗的事件可谓是比比皆是。这种普遍性的现象恰恰反映了实施有效措施的迫在眉睫。

▲图片来自：Pexels

今年 6 月份的时候，欧洲议会以 499 票赞成、28 票反对和 93 票弃权，高票通过了欧盟的《人工智能法案》，明确了 AI 监管中不可逾越的红线，基于 AI 的四个等级（从风险最小到不可接受）进行区分管理，其中就明确 ChaTGPT 等工具，必须披露哪些内容是 AI 生成的，以便帮助区分所谓的深度造假图像和真实图像，并确保防止生成非法内容。

欧洲议会议员图朵拉赫表示：「如果人工智能的开发者不这样做，他们可能会被迫立即删除应用程序或被罚款，罚款最高可达其收入的 7%。」可能高达数亿欧元的罚款对于科技巨头而言，也算得上「伤筋动骨」了。

因此七家科技巨头选择在技术层面给信息内容嵌入水印，一方面有利于用户甄别信息内容的真实性，方便用户溯源信息内容的源头，另一方面也是对《人工智能法案》的一种无声回应，毕竟强如苹果也不敢轻易放弃欧盟市场。

当然，尽管这也是治标不治本的事情，但口头在前，行动在后，总归还是一件不错的事情。

文章来源：爱范儿   作者：莫崇宇