逾千专家吁暂停训练强大AI
2023-03-30 00:00
(星岛日报报道)美国亿万富豪马斯克夥同人工智能(AI)专家(包括两名图灵奖得主)、高科技业界高层等逾千人,昨日发表联署公开信,呼吁全球业界立即暂停训练比GPT-4更强大的AI系统,为期至少6个月,直至确保它们是安全的。公开信警告强大、先进的AI系统对社会与人类构成潜在风险。
由非牟利组织「生命未来研究所」发表的公开信,已有超过1100人签署,包括AI聊天机械人ChatGPT开发商OpenAI的初始投资者马斯克(Elon Musk)、有「电脑界诺贝尔奖」之称的图灵奖两名得主西法基斯(Joseph Sifakis)和本吉奥(Yoshua Bengio)、苹果公司共同创办人沃兹尼亚克、AI生成图片公司Stability AI行政总裁莫斯塔克、Alphabet旗下AI公司DeepMind的研究人员,以及其他著名AI专家与学者、科技界高层等。其中希腊裔电脑科学家西法基斯为2007年图灵奖得主、加拿大蒙特利尔大学教授本吉奥为2018年图灵奖得主。
为期至少6个月
信中提到,近几个月AI实验室陷入一场失控的竞赛。公开信说:我们必须问自己,是否应该让机器以宣传和谎言,充斥自身的讯息渠道?是否应该自动化所有工作,包括本已令人满意的工作?是否应该发展并非人类的脑袋,最终它可能比人类更聪明,并取代我们?我们应该冒着失去对自身文明控制的风险吗?
公开信指,若不能迅速实施暂停训练,各国政府应介入。据欧盟的登记册资料,生命未来研究所主要由马斯克旗下基金会资助,合作出资者还包括伦敦的利他主义组织Founders Pledge及美国矽谷社区基金会。
裁减伦理团队引起担忧
自从微软支持的OpenAI去年底推出ChatGPT之后,竞争者争相推出类似产品。但当愈来愈多人开始尝试使用AI产品之际,微软、亚马逊和Google等科技巨擘却裁减了AI伦理团队,进一步引起了安全担忧。到本周一,欧洲刑警组织警告,ChatGPT这类先进AI系统,可能被滥用于网络钓鱼、假讯息、网络犯罪等。生命未来研究所发言人昨日向媒体称,OpenAI的行政总裁奥尔特曼还没有在这封信上签名。有份签署的纽约大学名誉教授马库斯称,该公开信内容并不完美,「但精神是正确的,大家需要放慢脚步,直到能更好理解后果。」
關鍵字
最新回应