据多家媒体宣布,被称为“人工智能(AI)教父”的杰弗里·辛顿日前证明,他已经从事情了十余年的谷歌离职,现在可以畅谈AI可能带来的风险。在接管媒体采访时,他表示,“我对我毕生所研究的东西感到后悔了。”
杰弗里形容称,AI谈天机器人所带来的某些危险“相称胆怯”。宣布称,开拓出了被认为是当代AI根本系统的杰弗里已经正式加入了“AI批评者”的行列。
杰弗里在社交平台阐明称,他之以是从谷歌辞职,是为了可以在不考虑对谷歌产生影响的情形下,评论辩论AI的危险性。此外,他见告媒体,自己的年事也是个问题,“75岁,的确是个该退休的年事了。”
↑杰弗里在社交平台的干系推文
“AI教父”态度转变:
警告“AI未来会对人类构成威胁”
据先容,1972年,还在读研究生的杰弗里接管了一种名为“神经网络”(neural networks)的观点——所谓“神经网络”,是指一个可以通过数据剖析来学习技能的系统。彼时,很少有研究职员相信这一观点能成真,但它却成为了杰弗里此后学术生涯的主要课题。
上世纪80年代,已经成为卡内基梅隆大学打算机科学教授的杰弗里,不愿接管美国国防部帮助,转而离开美国前往加拿大。2012年,杰弗里和他在加拿大多伦多的两逻辑学生创建了一家专注于“神经网络”的公司,其团队当时通过剖析数百万张照片打造出一款可区分动物、物体图片的“神经网络系统”,能识别常见物体,如花、狗和汽车。值得一提的是,两逻辑学生之一的伊利亚,后来成为了人工智能研究公司OpenAI的首席科学家。
↑伊利亚后来成为OpenAI的首席科学家
此后,谷歌以4400万美元的价格收购了杰弗里与两逻辑学生创办的公司。而他们所开拓出的系统,也为今后越来越强大的AI——如ChatGPT和Bard等新型谈天机器人——打下了根本。2018年,杰弗里因在“神经网络”方面的事情取得突出造诣,得到了有着“打算机届诺贝尔奖”之称的图灵奖。
事实上,杰弗里一开始相信“机器理解和天生措辞的办法不如人类处理措辞的办法”,但在去年,随着谷歌、OpenAI通过利用大量数据构建出系统,他的不雅观点发生了变革,“大概在某些方面,AI会比人脑处理得更好。”杰弗里表示,此前他认为“AI比人类更聪明”这一征象可能涌如今30-50年之后,但现在他认为,这统统可能发生得更快。
现阶段,杰弗里最担心的便是通过利用AI,网络上会涌现很多虚假的图片、视频和笔墨,这可能让人分不清真假。其次,他还担心AI将改变全体人类就业市场,可能导致如状师助理、私人助理、翻译等岗位的消逝。在未来,杰弗里担心AI会对人类构成威胁,“由于AI可能通过大量的数据和剖析,涌现一些令人意想不到的行为。”杰弗里阐明道。
杰弗里补充称,一些公司和个人已经许可AI写代码,乃至自主运行代码。“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。”杰弗里称,“现在很难防止坏人利用AI做坏事。”
据理解,此前在被问及“AI会不会被用于危险技能”时,杰弗里回答称“你可以试试看”。而现在,他不会再这么说了。
宣布指出,在很多科技研究职员看来,诸如“AI成为‘杀人机器’”一类的威胁还只是假设性的。不过杰弗里认为,在谷歌、微软等多家科技巨子争先发展AI技能后,“科技巨子陷入了一场无休止的竞争”。在他看来,这样针对“AI技能发展”的竞争,将让AI系统变得越来越危险。
对毕生研究感到后悔
安慰自己“我不研究,别人也会研究”
事实上,在OpenAI于3月发布新版ChatGPT后,1000多名科技领域领导者和研究职员便以“AI技能给人类和社会带来了风险”为由,签署了一封公开信,呼吁停息系统开拓6个月。数日后,包括微软首席科学官员埃里克在内的人工智能促进协会19位现任和前任领导人也发布信函,警告人工智能的风险。
而当时还未辞职的杰弗里并未参与上述两起警告活动,并表示在自己辞职前,不想批评谷歌或者其他公司。
上个月,杰弗里才关照谷歌要辞职,并与谷歌母公司Alphabet的首席实行官桑达尔·皮查伊通了电话。媒体宣布称,杰弗里的离职对谷歌而言是个丢失。
只管杰弗里称在辞职后才能畅谈AI所带来的风险,但有称,今年3月,杰弗里就已经就AI所带来的风险敲响了警钟。当时,在被问及“人工智能会不会消灭人类”时,杰弗里回答称“这并不是令人难以置信的事”。
在接管媒体采访时,杰弗里坦言“自己对毕生研究的东西感到后悔了”。“我只能这样安慰我自己:即便是我不做干系研究,也会有其他人从事这项研究。”他说道。而一份内部文件显示,在过去一年里,杰弗里减少了自己在谷歌的上班韶光。去年3月,他只有20%的韶光在全职事情;同年晚些时候,他被分配到了一个新团队担当职务。
红星新闻 黎谨睿
编辑 潘莉 责编 李彬彬
(下载红星新闻,报料有奖!
)