类似情形正发生在人工智能上。
人工智能是一场正改变人类生存环境的浪潮。可是，1）受影响的绝大多数人并没有机会参与决定被改变的内容、方向和程度。2）技能前辈正按照自己的工程思维改写社会文化的基因。3）他们对手中强大技能的社会后果认识偏颇（行话为偏置明显），忽略AI的灭绝力量。4）他们对技能的崇奉覆盖了个人对自己的生命意义的追求。环球聪慧企业“年度50强”之一的“旷视”（Mega Vision）办公大厅里，有一幅代价愿景口号：“为了人工智能终将创造的所有美好！
”。谁创造？谁被创造？若何的美好？对坚持不美好的少数怎么办？这些比技能更主要的美学问题在谈论中严重缺席。
对付人工智能的难题，文学叙事不失落为得当的理解工具。文学无需拘泥于事实、许可荒诞想象。它自由驰骋的思想力可以暴露人工智能“偏置” （算法中有偏见的设置）盲点。AI比任何时候都须要文学和美学的参与。
为何要谢绝AI创造的“完美渐显现象”
过去，未来是在各种力量随机碰撞中逐渐显现的事先不可知征象。人工智能改写历史缺点和随机碰撞的结果，带来完美的过程。闭环回馈、反刍式学习系统可以不断修正历史履历，去除历史判断的“缺点”。这样一来，人的“屈曲性”只会在算法里涌现一次，不会重复，由于历史履历可以在闭环回馈中修正。
可是，屈曲也有它的代价。只有在AI消灭人的“屈曲”之后，我们才倍加怀恋它的代价。陀思妥耶夫斯基和福楼拜的小说帮助我们看到屈曲人性有代价的一壁。
陀思妥耶夫斯基通过《地下室手记》的主人公表明对数学般完美生活的意见：2加2即是4，这样推演生活不是展示生命，师长西席们，是去世亡的开始！
19世纪的欧洲，理性的个人主义和浪漫的乌托邦思想到处蔓延。陀思妥耶夫斯基的小说却着重描写个人非理性主义行为和残酷冷峻的生活。他的代表作《地下室手记》中的主人公“空空如也，没有大衣，没有靴子，寒酸透顶”，怎么看都是一位生活的失落败者，一位社会和家庭的弃儿。小说开头就写到：我是一个有病的人，凶恶的人，不招人喜好的人。可是就在他完备病态的性情行为中，就在那阴森冷漠的地下室空间，20世纪的一代又一代读者领会“我是谁？”“什么是意识？”“残酷现实有何意义？”
放置闭环回馈和反刍式学习系统中，地下室和它的主人会被消灭。失落去小说描述的病态不完美，读者也会失落去深刻理解人性的一扇窗。
另一部同期间法国小说《包法利夫人》中每个角色，爱玛、查理、老包法利、赫麦、罗多尔夫、莱昂，都带有某一种范例的人性恶习：懦弱、屈曲、贪婪、冷漠……。作家福楼拜笔下的爱玛一次又一次地追求憧憬神往的爱情和家庭，一次又一次被欺骗，受折磨，直至去世亡。小说里的人物极实在际，由于它取材于当时的一个真人真事：一个法国村落庄年夜夫夫人的仰药案。
福楼拜是第一个磋商人性屈曲代价的作家。浸淫到《包法利夫人》描述的现实情境中，你才能感性理解生命过程无常、残缺、不完美、每一次都不一样。读完他的小说，你就明白，在没有感知生命过程特色之前，就制造一个假设的完美程序，它是危险的。那些被修正掉的不完美性大概是未来的救命稻草。
在魔幻现实主义中理解“不可减约性”
本日的人工智能经历过60年和至少8个学科交错影响的发展过程。它不能从单学科角度去大略理解，也不能把它60年的发展历史抽取出来后分别理解。这便是它内置的“不可简约性”。
若何理解“不可减约性”的荒诞与悖论？它须要文学来帮忙。
作为魔幻现实主义作家博尔赫斯（Jorge Luis Borges）的大力之作，《沙之书》（Book of Sand）把不愿定性和不可减约性简练地呈现给读者。这本“我”从圣经推销员那儿买来的神奇的书由无穷无尽的页码组成，仿佛如恒河之沙。打开每一页，它都连带启动一系列干系的符号。每一页、每个符合表达着奇怪的东西，玄妙费解。博尔赫斯的其余一本小说《巴别图书馆》（Babel Library）把不可减约性的荒诞推向新高度。
《圣经·旧约》中，人类曾试图建造一座能够沟通和理解统统的通天巨塔，却被上帝挫败。小说《巴别图书馆》里的图书馆犹如通天塔，全然包含宇宙的聪慧。图书馆的书架里包括23个书写符号组成的目录区域。可是，这个容纳所有聪慧的图书馆却处处看似无序。任何人在特定区域抽出一本书，他只读到看似乱七八糟的符号。四处找了一百年还是无头绪后，人们以为这个全能的图书馆便是一大堆胡言乱语的纸张。实在，全能的图书馆是存在的。它是所有书本的总和。人类的朽迈、恐怖、欲求捷径的动机让人不得领悟全书。一旦领悟全书，前面所有的“乱七八糟”便霎光阴显示各自的意义。
博尔赫斯的小说荒诞，“不可减约性”也荒诞。荒诞不是缺点，而是我们的理解能力与征象变革有差距。以荒诞对荒诞，大概我们可以架起对人工智能发展中“不可减约”难题的理解。
要相信极度不愿定性的存在
人工智能潜含对人类的灭绝力量，属于“无知的未知”（unknown unknowns）。与之伴生的极度不愿定性可能带来人类的灭绝危急。牛津大学“人工智能研究中央”的博斯特伦（Nick Bostrom）指出，当我们看到极度不愿定可能带来灭绝危急时，统统已经太晚，命运将无法改变。那些技能崇奉者认为这是危言耸听。他们相信统统皆可掌握。只有读过《百年孤独》，人们才能体会那幻影般不可知的力量能扭曲制造光怪陆离的人生。待到能够体会时，改变已经不可能。
《百年孤独》(One Hundred Years of Solitude)是另一部拉丁美洲的魔幻现实主义作品。哥伦比亚作家加西亚·马尔克斯（Gabriel Garcia Marquez）描述了布恩迪亚家族百年七代的兴衰、荣辱、爱恨、福祸，和文化与人性中无法躲避的孤独。小说中的人物时而通鬼神，时而钟情于科学技能。每一代人各有奇诡的折腾办法，却总是以孤独命终。无论他们如何上天入地，通鬼拜神，这七代人还是被神秘的外部力量笼罩。孤独无意义注定是他们的宿命。
理解欧洲几个世纪以来对拉美社会的剥削蹂躏是理解《百年孤独》的钥匙。加西亚·马尔克斯曾经近乎绝望地表示：“拉丁美洲历史是统统巨大然而徒劳的奋斗总结，是一幕幕事先注定要被人遗忘的戏剧总和”。1518年，骑着高头大马的西班牙人科特斯（Heman Cortes）涌如今墨西哥时，当地的阿兹台克土著人完备懵了。从军事技能到社会文化，欧洲对当地人是完备无知的新征象（unknown unknowns）。人数上有绝对上风的土著人首先被思想征服，然后遭受肉体的屠戮而无还手之力。在拉美的场景里，看到极度不愿定性涌现之时已经为终场的前戏。
人工智能会带来另一慕拉美剧情吗？我们宁肯托其有，不可信其无！
“均质分布”的算法是生命不能承受之重
大数据工程师眼里没有个体，只有均匀值和偏差。普通地讲，“均质分布”指大数据剖析总结出来的规律对全体人口有普遍适用性。由少数超级聪慧的科学家开拓出来的算法有凌驾于领域专业技能之上的统御能力（Master Algorithm）。精英提炼出的聪慧程序该当可以代表全社会人的代价偏好。卡夫卡（Franz Kafka）的《变形记》，以及米兰.昆德拉（Milan Kundera）《生命不能承受之轻》以戏剧夸年夜手腕凸显“均质分布”假设之荒诞。
在捷克作家卡夫卡的《变形记》中，主人公格里高尔.萨姆沙一觉醒来变成一只大甲虫。这位卑微勤奋的推销员曾经是家里的紧张劳动力。事情收入为他挣来在家里的地位。每位成员重视他的物质贡献，对他毕恭毕敬。当他由人变为“非人”，当他无法做物质贡献时，家人的嘴脸全部改变了。萨姆沙头脑中还是人的思维，但形体已经为“非人”。被社会和家庭彻底边缘化的萨姆沙在痛楚和饥饿中默默去世去。
是家庭成员思想变了形，还是主人公身体变了形？人与“非人”的差异是什么？谁为变形的后果卖力？一旦人工智能变形为超级聪慧，一旦人作为劳动者变形为“非劳动者”，我们将成为另一种卡夫卡征象。
另一位捷克作家昆德拉以《生命不能承受之轻》诘问每个人：一次不能重复的生命意义由谁来决定？ 小说中紧张人物托马斯和特蕾莎以相左的人生不雅观开始，用表示极致存在的去世亡表达“轻”便是“重”，不能重复的生命要由自己来决定轻与重。
昆德拉的小说直接寻衅尼采思想。尼采认为，生命不过为事宜，事宜“永恒循环”，超人是事宜主角，争取做超人，并让超人决定统统。小说主人公末了共同认识到，平凡的人，即便只有轻薄卑微的事宜经历，仍旧该当拥有对生命意义不可转让的决定权。这大概是普通人对超级聪慧该当有的态度。
微积分和二进制的发明者莱布尼茨（Gottfried Leibniz）曾断言：不能理性阐明的就不存在。类似的思维偏置普遍存在于人工智能中。文学作品帮助我们认识到屈曲是人性不可分割的一部分，理性知识永久不会完美，极度不愿定性能带来无法逆转的生存危急，对精英开拓的超级聪慧平凡人大概承受不起。它们听似荒诞。荒诞，由于人工智能的理性阐明能力尚低于感悟生命的水平之下。
（作者鲍勇剑为加拿大莱桥大学迪隆商学院终生教授，复旦大学管理学院EMBA特聘教授。）