OpenAI 日前发布了一份《Model Spec》文件草案，阐述了它希望 ChatGPT 及其他 AI 技术的行为方式。其中有一部分透露，该公司正在展开向色情和其他露骨内容领域的探索。
根据 OpenAI 目前的规则，露骨的色情内容以及性暗示内容大多是被禁止的。但现在，该公司正在重新审视这一严格禁令。
“我们正在探索是否可以通过 API 和 ChatGPT 负责任地提供在适合年龄的环境中生成 NSFW 内容的能力。我们期待更好地了解用户和社会对该领域模型行为的期望”。NSFW 是 not safe for work 的缩写，OpenAI 对其的定义包括了色情、极端血腥、污言秽语等。
帮助撰写该文件的 OpenAI 模型负责人 Joanne Jang 在接受美国国家公共广播电台采访时表示，该公司希望就是否应始终在其 AI 产品中禁止色情文本和裸体图像展开对话。
“我们希望确保人们在不违反法律或他人权利的范围内拥有最大的控制权。在一些创意案例中，涉及性或裸体的内容对我们的用户来说很重要。我们将以一种在适龄的背景下提供服务的方式来探索这一点。”
Jang 指出，这并不意味着 OpenAI 正在试图制造 AI 色情内容，一些深度伪造的内容也将被阻止。但她也表示，用户拥有对最终生成的内容的决定权，“这取决于你对色情的定义。”
