危及社会与人类 马斯克与专家联署呼吁暂停训练更强大AI至少半年

Telsa行政总裁马斯克（Elon Musk）与一群人工智能（AI）专家、业界高层，共同发表公开信，呼吁暂停训练比GPT-4还强大的AI系统，理由是有可能危及社会与人类。目前，这封信已有1079名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者罗素（Stuart Russell）、 苹果公司联合创始人沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官莫斯塔克（Emad Mostaque）等科技界领袖人物。

美国未来生命研究所（Future of Life Institute）29日公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。信中写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。正如广泛认可的「阿西洛马人工智能原则（Asilomar AI Principles，阿西莫夫的机械人三大法则的扩展版本，于2017年由近千名人工智能和机械人专家签署）中所述，高级AI可能代表地球生命史上的深刻变化，应该以相应的关照和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人（甚至他们的创造者）能理解、预测或可靠地控制。

马斯克与AI专家联署呼吁暂停训练更强大AI至少半年。路透社

联署的包括苹果公司联合创始人沃兹尼亚克。路透

马斯克与一群AI专家认为近月月人工智能实验室陷入了一场失控的竞赛。AP

自从微软支持的OpenAI去年推出ChatGPT之后，竞争者忙著推出类似产品。AP

GPT-4可以用来解释组合图，各图的重点，该图为「VGA转接头接上iPhone手机」。OpenAI

GPT-4可解读分析图表内容。OpenAI

GPT-4可以看图找出问题的答案。OpenAI

迷因图片也难不到GPT-4，而且不失幽默。OpenAI

GPT-4可以分解解读漫画的重点。OpenAI

多模态AI模型GPT-4，可支援图片输入，可解释还能生成网页程式码。OpenAI

「当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：我们是否应该让机械用宣传和谎言充斥我们的信息渠道？我们是否应该自动化所有工作，包括令人满意的工作？我们是否应该发展最终可能比我们更多、更聪明，淘汰并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？」这封信写道，「只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随著系统潜在影响的规模而增加。OpenAI最近关于通用人工智能的声明指出，『在某些时候，在开始训练未来的系统之前进行独立审查可能很重要，并且对于最先进的工作来说，应该同意限制用于创建新模型的计算量增长。』我们同意。那个某些时候就是现在。」

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，并且无可置疑。这并不意味著总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。

此外，欧盟警察机构Europol本周一呼应对于ChatGPT这类先进AI的伦理与法律担忧。警告这类AI潜在的网络钓鱼、假讯息、网络犯罪等不当使用。上述公开信接在Europol表达忧心之后发表。

自从微软支持的OpenAI去年推出ChatGPT之后，竞争者忙著推出类似产品，多家企业准备把这类技术整合到他们的应用程式或是产品之中。

---     
《星岛申诉王》于3月1日隆重登场，节目为民请命抱不平、追踪城中热话，亦会搜罗温情小故事。你申诉，我跟进，搵91999933，《星岛申诉王》随时候命！
立即报料: https://bit.ly/3IMunqd

你的独家报料一旦被采用及报导，将获得乙份奖品。

《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ