Gentoo Linux 禁止由 AI 生成的代码分叉

2024年 4月 22日 23.8k 0

导读:为防止不明代码进入系统,Gentoo Linux开始禁用AI生成的代码。

背景

随着人工智能生成代码的工具越来越强大,一些产品的源代码已经加入这些工具产生的代码。

一些AI程序员也在其中,甚至传出混水摸鱼和造假的情况。这些代码也有一些问题,如果未经人工审核,很可能有安全或冗余漏洞。

Linux发行版已经行动

Gentoo Linux 发行版中不再允许人工智能生成和辅助的代码贡献。

邮件部分内容

禁止人工智能代码由 Gentoo 理事会成员 Michał Górny于 2 月 27 日正式发出。

Gentoo 理事会是一个管理 Linux 发行版的民选委员会。Górny主张禁止人工智能的三个主要原因为:

  • 潜在的版权侵权

  • 代码的质量与控制问题

  • 对人工智能高功耗的道德考虑

  • 大公司在塑造技术所起的作用

版权无疑正在成为人工智能模型的一个长期问题,这些模型可能会不接受受版权保护数据的训练,英伟达是最新被起诉的公司之一。众所周知,人工智能会产生无意义的文本和代码,甚至被观察到会产生整个软件包的幻觉。

除了禁止提交人工智能代码之外,Górny 表示他还希望 Gentoo 为 Linux 社区提供一些独特的东西。

“我认为这对于 Gentoo 来说是一个很好的公关举措,当很多项目都热衷于‘人工智能’时,我觉得许多 Gentoo 用户很欣赏老式的软件工程方法,在这种方法中,人类比‘生产力’更重要。”

该禁令及其提议是先发制人的,并不是 Gentoo 社区中任何特定事件的结果。“我们正在采取早期预防措施,”Górny这样解释道。

禁令的生效经过

Gentoo 委员会最初于 3 月 10 日在预定月度会议上讨论了 Górny 的禁令建议。然而,由于禁令的措辞尚未制定,许多理事会成员希望讨论更多地细节,因此尚未采取任何行动。该禁令最终在 4 月 14 日的理事会会议上颁布,会议以 6 比 0 的票数通过,其中一名成员缺席了投票。

“我个人的观点是,我们才刚刚开始讨论这个话题,”戈尔尼说。 “我怀疑当我们真正正确地宣布它并且用户了解它时,我们会看到更多的用户反馈。”

Gentoo 社区讨论了电子邮件线程和 IRC 聊天室的潜在禁令。Górny 表示,大家一致认为应该实施“一些限制”。随着禁令全面生效,它可以鼓励更多的 Gentoo 社区成员分享他们对人工智能的看法。

如何分辨是否是真人写的代码

当然,执行这项禁令将充满挑战。

如何区分真人编写的代码和机器编写的代码?在 Górny 看来,禁令的有效性并不是真正的重点。

他说:“我们的主要目标是明确什么是可以接受的,什么是不可以接受的,并礼貌地要求我们的代码贡献者尊重这一点。”他说,人工智能禁令主要是现行受版权保护代码规则的延伸。

“如果我们收到的贡献包含真正‘奇怪’的错误,这种错误似乎不太可能是由人为错误造成的,我们会提出质疑,我认为这是我们能做的最好的事情,” Górny 补充道。

人工智能被全面禁止,但可能不会永远

该禁令还明确包含一项条款,规定未来可以重新审视该政策,这是一些理事会成员明确要求的补充。 

“近一年来,事情可能发生了很大变化(或者根本没有变化),因为事情进展很快,”市议会成员sam james说。

该委员会已经预见到了未来发生的情况,他们会为人工智能破例——一种专门在 Gentoo 上训练的模型。这样在理论上可以消除对版权侵权的担忧,并可能产生更高质量的代码。 

结语

随着AI不断“侵入”各个行业,每个行业都在面临着重新整合和人员角色和能力更迭。而目前,Gentoo是一个典型案例,而它也知道暂时的封禁可能起一些作用,未来还是要面临着开放和自我治理的策略调整。

而事实上,我们的软件开发行业更是如此,也到了各种调整优化的时候了~

相关文章

Java 之父 James Gosling 宣布退休
快手文生图大模型可图宣布开源
李彦宏:开源模型是智商税
VLMs多模态大模型当下进展与思考
开源日报 | 李彦宏称开源模型是智商税;Windows下的GUI开发;有趣的人形机器人;边学AI边赚钱
Meta 开源新的“多标记预测”语言模型

发布评论