逾千专家吁暂停训练强大AI

2023-03-30 00:00

去年美国拉斯维加斯消费电子展,展出的一个AI机械人。
去年美国拉斯维加斯消费电子展,展出的一个AI机械人。

(星岛日报报道)美国亿万富豪马斯克夥同人工智能(AI)专家(包括两名图灵奖得主)、高科技业界高层等逾千人,昨日发表联署公开信,呼吁全球业界立即暂停训练比GPT-4更强大的AI系统,为期至少6个月,直至确保它们是安全的。公开信警告强大、先进的AI系统对社会与人类构成潜在风险。
由非牟利组织「生命未来研究所」发表的公开信,已有超过1100人签署,包括AI聊天机械人ChatGPT开发商OpenAI的初始投资者马斯克(Elon Musk)、有「电脑界诺贝尔奖」之称的图灵奖两名得主西法基斯(Joseph Sifakis)和本吉奥(Yoshua Bengio)、苹果公司共同创办人沃兹尼亚克、AI生成图片公司Stability AI行政总裁莫斯塔克、Alphabet旗下AI公司DeepMind的研究人员,以及其他著名AI专家与学者、科技界高层等。其中希腊裔电脑科学家西法基斯为2007年图灵奖得主、加拿大蒙特利尔大学教授本吉奥为2018年图灵奖得主。
为期至少6个月

公开信题为「暂停巨型AI实验」,称已有广泛的研究显示,具有与人类竞争智能的AI系统可能对社会和人类构成深远的风险,「只有当我们确信其影响是积极正面、且风险可控时,才应该开发强大的AI系统。」公开信呼吁未来至少6个月暂停训练较GPT-4更强大的AI系统,直到此类设计的共享安全规则获独立专家订定、实施和审核。GPT-4是ChatGPT的升级版,由新创公司OpenAI推出。

信中提到,近几个月AI实验室陷入一场失控的竞赛。公开信说:我们必须问自己,是否应该让机器以宣传和谎言,充斥自身的讯息渠道?是否应该自动化所有工作,包括本已令人满意的工作?是否应该发展并非人类的脑袋,最终它可能比人类更聪明,并取代我们?我们应该冒着失去对自身文明控制的风险吗?

公开信指,若不能迅速实施暂停训练,各国政府应介入。据欧盟的登记册资料,生命未来研究所主要由马斯克旗下基金会资助,合作出资者还包括伦敦的利他主义组织Founders Pledge及美国矽谷社区基金会。
裁减伦理团队引起担忧

自从微软支持的OpenAI去年底推出ChatGPT之后,竞争者争相推出类似产品。但当愈来愈多人开始尝试使用AI产品之际,微软、亚马逊和Google等科技巨擘却裁减了AI伦理团队,进一步引起了安全担忧。到本周一,欧洲刑警组织警告,ChatGPT这类先进AI系统,可能被滥用于网络钓鱼、假讯息、网络犯罪等。生命未来研究所发言人昨日向媒体称,OpenAI的行政总裁奥尔特曼还没有在这封信上签名。有份签署的纽约大学名誉教授马库斯称,该公开信内容并不完美,「但精神是正确的,大家需要放慢脚步,直到能更好理解后果。」
 

關鍵字

最新回应

相關新聞

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad