据多家媒体宣布,被称为“人工智能(AI)教父”的杰弗里·辛顿日前证明,他已经从事情了十余年的谷歌离职,现在可以畅谈AI可能带来的风险。
在接管媒体采访时,他表示,“我对我毕生所研究的东西感到后悔了。

杰弗里形容称,AI谈天机器人所带来的某些危险“相称胆怯”。
宣布称,开拓出了被认为是当代AI根本系统的杰弗里已经正式加入了“AI批评者”的行列。

杰弗里在社交平台阐明称,他之以是从谷歌辞职,是为了可以在不考虑对谷歌产生影响的情形下,评论辩论AI的危险性。
此外,他见告媒体,自己的年事也是个问题,“75岁,的确是个该退休的年事了。

↑杰弗里在社交平台的干系推文

AI教父从谷歌离职对毕生研究认为后悔安慰自己我不研究别人也会研究

“AI教父”态度转变:

警告“AI未来会对人类构成威胁”

据先容,1972年,还在读研究生的杰弗里接管了一种名为“神经网络”(neural networks)的观点——所谓“神经网络”,是指一个可以通过数据剖析来学习技能的系统。
彼时,很少有研究职员相信这一观点能成真,但它却成为了杰弗里此后学术生涯的主要课题。

上世纪80年代,已经成为卡内基梅隆大学打算机科学教授的杰弗里,不愿接管美国国防部帮助,转而离开美国前往加拿大。
2012年,杰弗里和他在加拿大多伦多的两逻辑学生创建了一家专注于“神经网络”的公司,其团队当时通过剖析数百万张照片打造出一款可区分动物、物体图片的“神经网络系统”,能识别常见物体,如花、狗和汽车。
值得一提的是,两逻辑学生之一的伊利亚,后来成为了人工智能研究公司OpenAI的首席科学家。

↑伊利亚后来成为OpenAI的首席科学家

此后,谷歌以4400万美元的价格收购了杰弗里与两逻辑学生创办的公司。
而他们所开拓出的系统,也为今后越来越强大的AI——如ChatGPT和Bard等新型谈天机器人——打下了根本。
2018年,杰弗里因在“神经网络”方面的事情取得突出造诣,得到了有着“打算机届诺贝尔奖”之称的图灵奖。

事实上,杰弗里一开始相信“机器理解和天生措辞的办法不如人类处理措辞的办法”,但在去年,随着谷歌、OpenAI通过利用大量数据构建出系统,他的不雅观点发生了变革,“大概在某些方面,AI会比人脑处理得更好。
”杰弗里表示,此前他认为“AI比人类更聪明”这一征象可能涌如今30-50年之后,但现在他认为,这统统可能发生得更快。

现阶段,杰弗里最担心的便是通过利用AI,网络上会涌现很多虚假的图片、视频和笔墨,这可能让人分不清真假。
其次,他还担心AI将改变全体人类就业市场,可能导致如状师助理、私人助理、翻译等岗位的消逝。
在未来,杰弗里担心AI会对人类构成威胁,“由于AI可能通过大量的数据和剖析,涌现一些令人意想不到的行为。
”杰弗里阐明道。

杰弗里补充称,一些公司和个人已经许可AI写代码,乃至自主运行代码。
“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。
”杰弗里称,“现在很难防止坏人利用AI做坏事。

据理解,此前在被问及“AI会不会被用于危险技能”时,杰弗里回答称“你可以试试看”。
而现在,他不会再这么说了。

宣布指出,在很多科技研究职员看来,诸如“AI成为‘杀人机器’”一类的威胁还只是假设性的。
不过杰弗里认为,在谷歌、微软等多家科技巨子争先发展AI技能后,“科技巨子陷入了一场无休止的竞争”。
在他看来,这样针对“AI技能发展”的竞争,将让AI系统变得越来越危险。

对毕生研究感到后悔

安慰自己“我不研究,别人也会研究”

事实上,在OpenAI于3月发布新版ChatGPT后,1000多名科技领域领导者和研究职员便以“AI技能给人类和社会带来了风险”为由,签署了一封公开信,呼吁停息系统开拓6个月。
数日后,包括微软首席科学官员埃里克在内的人工智能促进协会19位现任和前任领导人也发布信函,警告人工智能的风险。

而当时还未辞职的杰弗里并未参与上述两起警告活动,并表示在自己辞职前,不想批评谷歌或者其他公司。

上个月,杰弗里才关照谷歌要辞职,并与谷歌母公司Alphabet的首席实行官桑达尔·皮查伊通了电话。
媒体宣布称,杰弗里的离职对谷歌而言是个丢失。

只管杰弗里称在辞职后才能畅谈AI所带来的风险,但有称,今年3月,杰弗里就已经就AI所带来的风险敲响了警钟。
当时,在被问及“人工智能会不会消灭人类”时,杰弗里回答称“这并不是令人难以置信的事”。

在接管媒体采访时,杰弗里坦言“自己对毕生研究的东西感到后悔了”。
“我只能这样安慰我自己:即便是我不做干系研究,也会有其他人从事这项研究。
”他说道。
而一份内部文件显示,在过去一年里,杰弗里减少了自己在谷歌的上班韶光。
去年3月,他只有20%的韶光在全职事情;同年晚些时候,他被分配到了一个新团队担当职务。

红星新闻 黎谨睿

编辑 潘莉 责编 李彬彬

(下载红星新闻,报料有奖!