理解游戏「我的天下(MineCraft)」的读者,一定很熟习这样的画面。
△图源:Science Magazine
但是,如果盖屋子的不是人,而是AI呢?
这是来自哥本哈根信息技能大学、约克大学和上海大学的学者,利用3D神经元细胞自动机(NCA)完成的新研究。
不仅能天生静态构造,当然不仅是公寓,树木、城堡也可以:
△图源:Science Magazine
还能生成功能性机器,比如爬行的毛毛虫:
△图源:Science Magazine
把它统统两段,还会玩再生术,成功分身……
(咦~有画面感了)
这是怎么做到的?
神经元细胞自动机的运用研究者实在是受到「生命游戏」中元胞自动机(CA) 的启示,在2D根本上开拓了3D神经元细胞自动机(NCA)。
「生命游戏」便是基于元胞自动机的事理制作的,也可以说是元胞自动机的一个展示。
它是由英国数学家约翰·康威在1970年发明的。在网格中,每个方格居住着一个细胞,其状态由其周围的8个细胞决定,以玄色代表细胞存活。
之后,许多研究采取了更为繁芜的神经网络规则,被称为神经元细胞自动机(NCA)。但是其运用大多局限于2D构造,或是只能天生大略的3D构造。
为了提高NCA在实际运用中的通用性,研究团队开拓了3D NCA。
它利用3D卷积捕捉周围更多的细胞,以天生繁芜的3D构造,并且具有更多类型的建造单元。
△3D神经元细胞自动机更新规则
研究职员试取利用NCA从单个活细胞天生目标实体,利用监督学习对重修丢失进行优化。
并且,将「我的天下」中的实体作为3D网格中的细胞,其状态向量包含:块类型、存活状态、隐蔽状态。
但是,由于每个单元是单一的块类型,于是他们将构造重修任务视为一个多类分类问题,预测给定单元的类型。
利用Pytorch供应的LogSoftmax和NLLLoss方法组合,以实现是在目标与预测的细胞构造之间,最小的交叉熵丢失。
这种丢失导致性能不稳定,并且模型展现出对“空气”块的偏好。
在演习中,“空气”块常日霸占了所选构造的大部分,因此,演习数据不平衡可能会导致模型过度预测。
为办理这一问题,研究职员根据是否归类为“空气 ”块,将丢失打算划分为两部分,并且增加了一个交叉重叠(IOU)本钱,丈量非“空气”块与实体之间的绝对差,以此提升精度。
效果如何?针对模型在静态构造和动态功能机器的重构性能,研究职员进行了评估,并记录了各项参数。
结果显示,NCA的重构能力具有鲁棒性:
△归一化IOU/构造性丢失
△归一化总丢失
不过,NCA对付构建较大的实体(比如:教堂)仍具有寻衅性,由于模型常常陷入局部极小值,须要更长的韶光来演习。
只管大教堂模型比一些实体的丢失更低,但有许多随机天生的构造,因此没有其他实体自然。目标构造与天生效果的比拟:
此外,在天生自然界中更随机的实体(比如:橡树)时,也更加困难。
正如前文提到的,NCA能天生静态构造,并且可以很好地增加单个块类型的数量,天生多样化和繁芜的内饰,比如公寓楼内部:
令人意外的是,在丛林神庙中,NCA乃至天生了一个箭陷阱。
在生成功能性机器时,研究职员创造,不同构造的天生模式也不同:
一些构造是从小细胞逐渐扩大到终极形态;而毛毛虫则是先快速天生,然后再淘汰细胞形成终极的构造。
△图源:Science Magazine
此外,NCA的再生特性也是一大亮点,除了从单个细胞中成长出繁芜的构造外,这些局部更新规则还许可再生或修复损伤。
纵然未经演习,它仍旧能规复某些受损的构造,比如树:
不过,研究职员在比拟测试后创造:
在未经由再生演习时,模型的再生率仅有30%;而进行再生演习后,天生率能达到99%。
3D NCA引起了网友的广泛关注,reddit上还有网友提到:
NCA在物理学上的运用也值得探索,比如:它可以用来仿照晶体形成。
参考链接:[1]https://arxiv.org/abs/2103.08737[2]https://www.sciencemag.org/news/2021/03/watch-artificial-intelligence-grow-walking-caterpillar-minecraft[3]https://en.wikipedia.org/wiki/Conway%27s_Game_of_Life[4]https://twitter.com/risi1979/status/1372158321256456198[5]https://www.reddit.com/r/MachineLearning/comments/m70b2p/r_growing_3d_artefacts_and_functional_machines/
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一韶光获知前沿科技动态