【友财网讯】-由20家领先科技公司组成的团体周五宣布，将共同致力于打击人工智能在今年选举中的错误信息。

该行业特别针对深度造假，它们可以使用欺骗性的音频、视频和图像来模仿民主选举中的关键利益相关者，或提供虚假的投票信息。

微软（Microsoft）、Meta、谷歌（Google）、亚马逊（Amazon）、IBM、Adobe和芯片设计公司Arm都签署了该协议。人工智能初创公司OpenAI、Anthropic和Stability AI也加入了该团体，此外还有Snap、TikTok和X等社交媒体公司。

科技平台正在为世界各地的重大选举做准备，这些选举影响到40多个国家的40多亿人。根据机器学习公司Clarity的数据，人工智能生成内容的兴起引发了与选举相关的严重错误信息担忧，深度伪造的数量同比增长900%。

选举中的虚假信息一直是一个主要问题，可以追溯到2016年的总统竞选，当时演员找到了廉价而简单的方法，在社交平台上传播不准确的内容。如今，立法者对人工智能的迅速崛起更加关注。

“我们有理由严重担心人工智能可能被用来在竞选中误导选民。”美国加利福尼亚州民主党参议员乔希·贝克尔(Josh Becker)在接受采访时表示，“看到一些公司来到谈判桌前是令人鼓舞的，但目前我还没有看到足够的细节，所以我们可能需要立法来制定明确的标准。”

与此同时，用于识别深度伪造的检测和水印技术还没有发展得足够快。目前，两家公司只是就一套技术标准和检测机制达成了一致。

他们还有很长的路要走，以有效地解决这个问题，这是一个多层次的问题。例如，声称可以识别人工智能生成的文本(如论文)的服务已被证明对非英语母语人士存在偏见。对于图像和视频来说，这并不容易。

即使人工智能生成的图像和视频背后的平台同意嵌入不可见的水印和某些类型的元数据，也有办法绕过这些保护措施。截图有时甚至可以欺骗检测器。

此外，一些公司在人工智能生成的图像中包含的隐形信号还没有应用到许多音频和视频生成器中。

该协议的消息发布前一天，ChatGPT的创造者OpenAI宣布了其用于人工智能生成视频的新模型Sora。Sora的工作原理类似于OpenAI的图像生成人工智能工具DALL-E。用户输入想要的场景，Sora就会给出一个高清视频剪辑。Sora还可以生成受静态图像启发的视频剪辑，并扩展现有视频或填充缺失的帧。

参与该协议的公司同意了8项高级别承诺，包括评估模型风险、“寻求发现”并解决此类内容在其平台上的传播，以及向公众提供这些过程的透明度。与科技行业及其他行业的大多数自愿承诺一样，新闻稿明确指出，这些承诺仅适用于“与每家公司提供的服务相关的领域”。

“民主有赖于安全可靠的选举。”谷歌全球事务总裁肯特·沃克(Kent Walker)在一份新闻稿中说。他说，该协议反映了该行业为应对“人工智能产生的侵蚀信任的选举错误信息”所做的努力。

IBM首席隐私和信任官克里斯蒂娜·蒙哥马利(Christina Montgomery)在新闻稿中表示，在这个关键的选举年，“需要采取具体的合作措施，保护人民和社会免受人工智能产生的欺骗性内容的放大风险。”