数百名 AI 界人士签署了一封公开信，呼吁严格监管 AI 生成的冒名顶替或深度伪造（Deepfake）内容。
公开信指出，"深度伪造"是指未经同意或严重误导的人工智能生成的声音、图像或视频，合理的人会误以为是真实的。这不包括对图像或声音的轻微改动，也不包括容易识别为合成的无害娱乐或讽刺。
如今，深度伪造通常涉及性图像、欺诈或政治虚假信息。由于人工智能发展迅速，使得深度伪造变得更加容易，因此我们需要为数字基础设施的运行和完整性提供保障。“Deepfakes 对社会的威胁日益严重，政府必须在整个供应链中施加义务，以阻止 Deepfakes 的扩散。”
信中呼吁：
- 将深度伪造的儿童性虐待材料（CSAM，又名儿童色情制品）完全定为刑事犯罪，无论所描绘的人物是真实的还是虚构的。
- 在任何情况下，如果有人制造或传播有害的深度伪造品，都需要受到刑事处罚。
- 要求软件开发商和分销商防止其音频和视频产品被用于制造有害的深度伪造品，如果他们的预防措施不充分，就要承担责任接受处罚。
他们认为，如果设计得当，这些法律可以在不会造成过重负担的同时，培育有社会责任感的企业。
这封信中较为知名的签名者包括：
- Jaron Lanier
- Frances Haugen
- Stuart Russell
- Andrew Yang
- Marietje Schaake
- Steven Pinker
- Gary Marcus
- Oren Etzioni
- Genevieve smith
- Yoshua Bengio
- Dan Hendrycks
- Tim Wu
事实上，这也不是首次出现相关的呼吁。在本月早些时候正式提出之前，欧盟已就此类措施进行了多年辩论。外媒 TechCrunch 指出，也许正是欧盟愿意进行审议和落实，才激活了这些研究人员、创作者和管理人员的发言权。虽然此举不一定能推动真正的立法，但它确实是业界专家们如何看待这一争议问题的风向标。
更多详情可查看此处：https://openletter.net/l/disrupting-deepfakes
