马斯克等1000名科技人士，日前签署了一封分外的公开信。
据未来生命研究所（Future of Life Institute）网站表露，该网站曾以公开信的办法发起倡议，呼吁所有AI（人工智能）实验室立即停息演习比GPT-4更强大的AI系统至少6个月。截至北京韶光3月29日下午13时许，在该网站上，这封公开信得到了包括马斯克在内的1126名人士的联名签署。
综合目前的公开资料来看，这项倡议的宗旨在于为人类留出韶光，思考AI开拓的合规性和安全性，并助力人类展开干系的事情。对付此，GPT-4认为，“6个月的韶光可能对付实现这一目的具有一定的寻衅性。”
未来生命研究所网站截图
公开信认为，高等AI可能代表地球生命史上的深刻变革，人类应以相应的关怀和资源进行方案和管理——但不幸的是，对应级别的方案和管理并没有发生。此外，最近几个月AI实验室们陷入了一场失落控的竞赛（an out-of-control race），但包括这些AI系统的创造者们，都无法完备去理解、预测或者可靠地掌握（reliably control）它们。
公开信写道，广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一不雅观点得到了顶级人工智能实验室的承认。
公开信表示，人们只应在这样的背景下去开拓强大的人工系统：确信它们的影响是积极的，确信它们的风险是可控的。信件还援引了OpenAI（ChatGPT的开拓者）在其最新声明中的表态，“在某个时候，在开始演习未来的AI系统之前，对它进行独立审查可能很主要。”
“现在便是那个时候。”公开信认为。
公开信呼吁，所有AI实验室立即停息至少6个月的演习事情——工具是那些比GPT-4更强大的AI系统。公开信称，这种停息该当是公开的和可验证的，并且包括所有关键参与者。如果不能迅速履行这样的停息，政府该当参与并停息。
“这并不虞味着总体上停息AI开拓，”公开信表示，AI实验室和独立专家该当利用这次停息，共同开拓和履行一套用于高等AI设计和开拓的共享安全协议，并由独立的外部专家进行严格审计和监督。此外，公开信还呼吁，AI开拓职员必须与政策制订者互助，以显著加快开拓强大的AI管理系统。
未来生命研究所网站显示，该组织成立于2014年，它的目标是“勾引变革性技能造福于生活，阔别极度大规模的风险。”网站信息显示，其注册地址在美国宾夕法尼亚州蒙哥马利县。经查证，在2020年6月联合国发布的《数字互助路线图》中，该机构是该活动在AI领域的民间倡议者（Champions）之一。
网站最新页面显示，在该公开信的联合署名栏，有浩瀚大学学者、工程师和企业创始人和高管在列。例如“图灵奖”得到者约书亚·本希奥、特斯拉CEO马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等。这份名单中也包括一些、西席和学生的名字。
未来生命研究所网站截图
对付此事，“GPT-4怎么看”？
ChatGPT在回答提问时表示，其缘故原由为确保AI研究在安全和伦理方面的合规性，防止技能滥用，为制订有效规范和监管方法留出韶光。对付这一行动的影响，GPT-4称，这将提高AI领域的安全意识，推动政策制订和监管方法的完善，匆匆使AI技能更加负任务地发展。
当被问道，“在你看来，6个月的韶光是否足以让人们实现这一目的？”GPT-4认为，虽然这段韶光可以让政策制订者、研究职员和社会谈论开始关注AI安全和伦理问题，但要完备办理这些问题并制订全面的规范和监管方法可能须要更永劫光。然而，6个月的停息确实可以作为一个良好的出发点，引发关注并推动干系方面加快行动。
“6个月的韶光可能对付实现这一目的具有一定的寻衅性。”
OpenAI网站截图
本文系不雅观察者网独家稿件，未经授权，不得转载。