《中国新闻周刊》：霍思伊
由ChatGPT和GPT-4引发的“人工智能狂潮”远比人们预想的持续更久，伴随而来的争议与忧虑也在不断发酵。回归科学，反思以GPT-4为代表的AI能力的边界：它能做什么？不能做什么？最主要的是，人类现在必须采纳什么行动来实现“有益的AI”？《中国新闻周刊》近日就以上问题专访美国加州理工学院电气工程和打算机科学教授亚瑟·阿布-穆斯塔法（Yaser S. Abu-Mostafa）。他是人工智能领域的有名专家，同时也是IEEE神经网络委员会的创始人之一，曾在多家科技公司担当机器学习顾问。
现将访谈实录择要如下：
AI的运用远比设计更繁芜和危险
：此前，埃隆·马斯克等人签署了联名公开信，业内形成了对人工智能发展的两种截然不同的意见，你更认同哪方？
阿布-穆斯塔法：联名公开信意图是好的，但无法起到任何本色效果，由于不会真的有公司遵守并停息六个月的AI研发。我认为这是对人工智能“过于快速发展”的下意识反应，是没有经由寻思熟虑的行为。我个人不赞许停息更强大AI模型的研发。现在要做的不是停息，而是如何更好阻挡其“不良利用”。以是我没有签署公开信。
如何推动更强有力的人工智能监督？政府须要通过立法对如何“合理地利用”AI进行约束或限定，欧盟《人工智能法案》是一个开始。立法必须经由谨慎考量，而不是短期内出于对人工智能的恐怖或为了应对想象中的风险而匆忙制订。目前为止，我还没有看到任何发起或法案经由了寻思熟虑，并可以得到有效实行。
2023年7月6日，上海，2023天下人工智能大会上，特斯拉“擎天柱”Tesla Bot人形机器人。陈玉宇摄
：如何使AI真正符合人类的代价不雅观和道德准则？
阿布-穆斯塔法：这完备取决于AI系统的开拓者和利用者。人工智能没有内在的道德或恶意，它只是服从命令，做人类演习它去做的事情。如果人类给它的是充满偏见的数据，就会出身一个充满偏见的AI。因此OpenAI须要不断调度，选择一些好的数据或让ChatGPT不回答恶意问题。但繁芜之处在于，纵然开拓者把全体AI系统设计得很“符合人类代价不雅观”，仍会有用户从不同角度利用它，这是开拓者掌握不了的。因此，AI运用远比设计更繁芜和危险。
人类社会中，好坏标准是不明确的。演习一个AI下棋，如AlphaGo，规则是明确的，AI经由演习后很清楚如何界定“好的行为”——只要能赢便是一步好棋。但更多时候，要演习AI去完成一些缺少客不雅观好坏规则的任务，让系统自身去理解什么是“好的行为”非常困难。
韩国当地韶光2016年3月9日，韩国职业9段李世石与谷歌人工智能系统“阿尔法围棋”（AlphaGo）进行了一场“人机大战”。李世石在五番棋首战中执黑186手中盘告负。图为媒体不雅观看区。吴旭摄
：联名公开信指出，最近几个月，人工智能实验室正陷入一场失落控的竞赛（out-of-control race），这是否真的在发生？
阿布-穆斯塔法：这是一种非常感情化的表述。不过可以预见到，在短期未来AI家当格局中，天下范围内很可能只有两到三个非常强大的类似ChatGPT的人工智能工具盘踞全体环球市场，由于开拓这样的大模型本钱巨大，须要数千个GPU（图形处理器）核心运行2个月，以及海量的数据和算力。这也是为什么目前所有最新的大模型进展都来自科技公司，而不是大学。
五年后是否可能出身一种能节省大量打算资源的新模型，还未可知。如果往后真的涌现一种完备不同的模型，可以让本钱从10亿美元降至1000万美元，这就改变了游戏规则，届时将会有大量玩家涌现。
：大模型时期的到来，也和基于“预演习+微调”这种自然措辞处理（NLP）的主流范式有关。2018年后，这种模式险些重塑了人工智能的商业形态，你如何看待这种趋势？
阿布-穆斯塔法：“预演习+微调”是一种分而治之的奥妙办法，一次演习AI专注于一个问题并完善它。这使人们能在目前造诣根本上不屈不挠，而非从头开始。
OpenAI将其对"大众年夜众开放的这个主张很聪明，现在他们得到了大量的数据和反馈，可用来演习新一代系统，而且这些资源是独家的，由于"大众不会对下一个类似产品产生同样多的兴趣。
2023天下人工智能大会在上海举办，展会上微创机器人展示5G远程手术技能。陈玉宇摄
AI只是在复制人类的“外不雅观”
：如何理性客不雅观认知当下的人工智能水平和ChatGPT的能力边界？
阿布-穆斯塔法：我有个朋友问ChatGPT：“关于阿布-穆斯塔法，你知道什么？”ChatGPT列出了关于我的一份详细履历和人物小传，首段看起来非常专业，但接下来就有不少缺点，比如搞错了我的大学。这充分解释了ChatGPT的实质：某种意义上，它只是把所有信息以一种非常分外的彼此干系的办法放在一起。
人工智能利用了一种类似人类大脑的构造，这种构造以一种高效办法存储信息，看到新情形后推理判断什么是“最靠近它的东西”。这便是深度神经网络所做的，已持续几十年。
目前，人工智能整体发展水平令人振奋。但纵然在业内，真正理解所有技能细节的人很少，只有OpenAI、Google这些参与了大模型演习的人才能说清楚，但他们对外分享信息有限。我推测，下一步最主要的打破可能集中在AI系统如何用更少资源达到相同的性能水平。
：沿这条路连续走，AI是否能进化到理解“观点”和“知识”？有专家认为GPT-4已初具“自我反思”能力，你怎么看？
阿布-穆斯塔法：如果说人工智能已发展出自我反思能力，那一定是数量巨大的任务演习带来的，是通过合并足足数目标“分散而零星的智能任务”实现的。比如说做1000个ChatGPT，个中一个对措辞感兴趣，一个处理数学问题，一个卖力视觉识别……直到其“能力”覆盖险些人类所有领域，再合并为一，它一定能表现出一种“通用的智能”，这便是“多模态机器学习”的实质。
但这只是表象，只是看起来具备自我反思能力和通用智能。某种意义上，这个巨大系统只是试图复制人类的“外不雅观”。
2022天下人工智能大会在上海拉开帷幕。中新社汤彦俊摄
：怎么理解微软研究职员称，GPT-4已经显示出靠近人类智能或通用人工智能的“火花”？
阿布-穆斯塔法：问题的关键是，“通用人工智能”（Artificial General Intelligence，AGI）到底是什么？对付通用人工智能，人类想追求的是：AI溘然之间学会了以上所有，能举一反三，而不是一次次学会某个特界说务。但这是一个非常模糊的描述。
现在急迫须要就“通用人工智能”观点达成共识，用精确的打算机措辞界定它，制订明确的考验规则。遵照这些规则，人类才能知道AGI是否已经实现、潜在的危险是什么。
人类为什么这么关心“通用人工智能”，由于它触及了人性中最根本的东西，陵犯了人类的自我（Ego），即人类是不是最独一无二的存在。对如何实现AGI，目前所有想法都只是推测，人们只能针对已看到的技能范式进行打破；但真实情形是，我们根本弗成思议会走上一条若何的路径。
当人们评论辩论“通用人工智能”时，承载了太多情绪，有时乃至是不切实际的期望和恐怖，但这种恐怖把智能和“自我”混为一谈。人们必须镇静下来，理性地把AGI视作一个科学目标。
：人工智能是否能产生“自我意识”？
阿布-穆斯塔法：我认为AI领域的任何技能进步都不可能产生一个“故意识的实体”。意识和感情的“显现”很随意马虎做到，AI未来能“看起来像拥有了情绪或意识”，就像电影里有一个演员表达出了某种强烈的感情，但这只是演出，是纯粹的行为表象。
对人类意识的定义在科学上都是不愿定的，客不雅观上也不可丈量。我知道我故意识，你故意识，你知道爱是什么，情绪是什么，悲哀是什么，由于你能觉得到，你能与它们联系起来。但这些都是人类履历。为什么会这样？我们不知道。
我认为AI始终是一个无生命的机器，背后有严密的齿轮在驱动它，这些齿轮便是参数。繁芜的输出可能会给我们留下“那里有一个分歧凡响的人”的印象，但这种输出不是来自意识，而是算法。为什么我们认为有人在那里？由于当人们看到这个输出后，把它在脑海中与过去的影象、情绪，与人类自身联系在一起。
2023年6月26日，江苏苏州国际博览中央，不雅观众在“2023环球人工智能产品运用展览会”上参不雅观。王建康摄
常规事情或在更短韶光内被AI替代
：未来哪些行业会从AI发展中受益，哪些可能被颠覆？
阿布-穆斯塔法：所有行业都会从人工智能的发展中受益，乃至以无法预见到的办法。
五年前有人问我：人工智能下一个20年如何发展？我说，AI将在20年内取代人类险些所有常规智能事情（routine intelligence tasks），也便是“完成繁芜任务但不须要创新的智能”，自动驾驶是一个范例例子。这是一个必须要积极办理的社会问题，否则很多人将面临失落业。
ChatGPT出身后，我改动了我的预期，我现在认为，可能不须要20年，这些常规事情在更短韶光内就可能被AI替代，不管我们如何界定“通用人工智能”，常规智能是通向它的第一步。
：在常规智能事情之外，AI未来是否也会取代一些更具有创造力的事情？
阿布-穆斯塔法：以AlphaGo为例，你会创造AI在某种意义上也在进行“创造性的防御”：为赢得比赛，它创造了人类没想到的防御策略。我不知道这是不是创新或只是自动化的产物，由于这背后是AI对海量策略的考试测验。“AI的创造力”目前也没有很可靠的定义。
2022年4月9日，在宁夏银川鼓楼步辇儿街，一名小朋友与机器人“铁蛋”互动。袁宏彦摄
：人类应如何与AI共存？
阿布-穆斯塔法：我们没有与AI共存的压力，AI永久是人类的附属品。
受访者简介：
亚瑟•阿布-穆斯塔法（Yaser S. Abu-Mostafa），埃及裔美国打算机科学家，加利福尼亚理工学院电气工程和打算机科学教授。研究涵盖人工智能、机器学习、模式识别和数据科学等多个领域，在人工智能教诲和科普方面做出主要贡献。
原标题：《加州理工学院教授：AI永久是人类的附属品 | 东西问》
来源： 中国新闻网