据宣布,北卡罗来纳州罗利的生物技能创业公司Collaborations Pharmaceuticals科研团队正在利用人工智能探求可用于治疗疾病的化合物,个中一部分涉及过滤掉任何可能致命的化合物。
作为检测新技能潜在负面影响的一部分,研究小组在其人工智能算法中 \"大众打开了一个开关\"大众,并让它找到最致命的化合物。该团队想看看,如果人工智能算法被设定在一个负面而非正面的任务上,它可以多么迅速和随意马虎地被滥用。
根据The Verge的一份报告,一旦进入“坏模式”,人工智能就能够发明数以千计的新化学组合,个中许多类似于本日利用的最危险的神经毒剂。
在人工智能发明的化合物中,有一些类似于VX,一种毒性极强的神经毒剂,纵然是很小的剂量也能引起抽搐。
研究职员表示,他们创造最恐怖的是,利用广泛可用的有毒化学品数据库,并利用人工智能来设计类似于目前最危险的化学武器是多么随意马虎。
论文的紧张作者乌尔比纳(Fabio Urbina)说:“我们利用的很多东西都是免费的,你可以从任何地方去下载一个毒性数据库。如果有一个人知道如何用Python编程,并且有一些机器学习的能力,那么可能在一个周末的事情中,他可以建立类似于这种由有毒数据库驱动的天生模型。”
他表示,这便是让研究团队考虑把这篇论文公开拓表缘故原由,对付这种类型的滥用,它的进入门槛如此之低。
文/南都 陈林