GPT4 遭控存在偏见、诈欺可能会暂定更新

2023年 7月 21日 78.9k 0

人工智能 AI 软件开发商 OpenAI 遭控构成公共危险,热门聊天机器人 ChatGPT 及其他 AI 系统的市场布局可能因而暂时止步。

CNBC、Engadget 等外媒体报导,非营利的科技伦理组织人工智慧与数字政策中心Center for AI and Digital Policy,CAIDP。

在 30 日向联邦贸易委员会(Federal Trade Commission,FTC)递交诉状,呼吁 FTC调查 OpenAI 并暂停其大型语言模型(LLMs)的商业发展,当中包括热门聊天机器人 ChatGPT 的最新版本 GPT-4。

CAIDP 指出,OpenAI 违反联邦贸易委员会法(FTC Act)第五条遏阻不公平、诈欺商业行为的规定,也未遵守FTC对于AI产品的指导原则。

另外,GPT-4 存在偏见、诈欺问题,更对隐私及公共安全构成风险,并未达成 FTC 对 AI 产品的要求,也就是透明、可解释、公平、可经验证并负责任。

CAIDP 希望 FTC 要求 OpenAI 未来推出 GPT 产品前,能先建立独立评估方法。另外,FTC 也应推出 GPT-4 的公共意外通报系统,并针对生成式 AI 产品制定正式法规。

CAIDP 总裁 Marc Rotenberg 最近才跟马斯克(Elon Musk)共同签署一份公开信,要求 OpenAI 等 AI 研究人员暂停工作六个月,在这段时间讨论科技伦理。马斯克2015年共同创办了OpenAI,2018年决定离开董事会、切断跟这家新创商的联系。

ChatGPT、Google Bard 等大型语言模型的批评者警告,这些 AI 产品生成的内容有问题,可能存在错误论述、仇恨言论及偏见。

使用者也无法重复产生同样结果。虽然 GPT-4 等更新版产出的内容较为可靠,专家仍担忧,人们可能过度依赖 AI、不去复验其内容。

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论