作者｜甲小姐 八度
编辑｜田思奇
“Slower than it looks（AI比看起来要慢），LLMs tend average（大措辞模型趋于人类的均匀聪慧水平），Not replacing humans（AI并非要取代人类），New, not substitutions（AI在创造新品，不是替代品），Cloud first, then AI（先云，后AI），Must change your org（AI将重塑组织），Just beginning（统统才刚刚开始）……这七个预测不是完备的。你能给我们一些从未在其他地方提到过的预测吗？”我问KK。
摘掉眼镜的KK停顿了至少30秒，接着反问了我几个漫长的回合，直到溘然打断了我。
“那我的预测就来了。我的预测是，10年后，演习数据将不再主要(In 10 years now, training data won't be important)。”KK说。
凯文·凯利（Kevin Kelly），被科技拥趸称为“KK”，以络腮胡子和斑白发丝成为一个时期符号。他写出《失落控》、《科技想要什么》、《5000天后的天下》等书，被誉为“硅谷精神之父”，在30年前就预见到了云打算、虚拟现实、物联网等趋势。2024年6月16日，他来到苏州，参与苏州科技商学院和上海交通大学上海高等金融学院共同举办的科技大讲堂。上述对话发生在他讲课后会议室里的独家采访，原来20分钟的采访被他延续至将近一小时。
本文甲小姐深度对话凯文·凯利，从近况谈到AI创新和人的实质。除了个别细节判断的不同 ，KK和「甲子光年」有类似的不雅观点：AI改变天下的“进度条”才刚刚开始。
1.近况：“那霸占了我所有的韶光”
你必须有1000小时。可能我已经演习了800小时了，但还不到1000小时。
甲小姐：新闻交往来交往去，全天下对AI的态度已经发生了很多变革，特殊是人们对AI 2.0、AGI或大模型的意见。最近一段韶光，你倾注了多少韶光跟踪前沿AI进展？
凯文·凯利：那霸占了我所有的韶光，我所做的便是持续阅读人工智能方面的文章。
甲小姐：你最喜好谁的文章？
凯文·凯利：就像你说的，每天都有，可能每小时都有新文章，关于措辞模型的一些新创造。
就在上周有一篇论文，来自Anthropic，关于特色的权重以及如何操纵它们，这和AI黑盒的观点有关。他们说我们实际上可以看到背后的一点点机制，这很有趣。
甲小姐：你平常会用Midjourney，Pika，Runway等AI运用吗？
凯文·凯利：我每天用AI画一张画，持续一年了。
甲小姐：你现在是AI行业的原住民了？
凯文·凯利：还在半路上。你必须有1000小时。可能我已经演习了800小时了，但还不到1000小时。
甲小姐：你在科技领域是一个哲学思考者。在最近AI的浪潮中你的科技哲学是否有迭代或改变？
凯文·凯利：这是一个很好的问题。我的科技哲学不雅观并没有改变，如果涌现一些新的征象，我会认为它是在不断证明和强化我的哲学。
到目前为止，我还没有看到任何可能改变我对技能意见的事宜涌现。以是我的科技理论就像在进化一样平常，我在AI看到的统统征象都没有改变我的底层科技哲学不雅观。
2.AI不雅观：“我真正担心的事：人工智能武器化”
OpenAI做出的最好和最差的决定分别是什么？
甲小姐：在你的官网页面的最上方有一行小字：OVER THE LONG TERM, THE FUTURE IS DECIDED BY OPTIMISTS（从长远来看，未来由乐不雅观主义者决定）。最近AI的一系列进展和快速迭代的浪潮，以及你刚才提到了百年人类身份认同危急，会让你有担忧吗？
凯文·凯利：总的来说，我不是特殊担心。有些事情我的确很在意，但我相信我们会办理。但还有些问题我们还不知道如何办理。比如景象变革，我们知道该当怎么做，但在AI领域存在一些我们不知道如何办理的问题，而这些问题有可能在未来会给我们带来困扰，比如AI的武器化：我们该当许可涌现一个机器人士兵吗？AI可以有杀人的能力吗？这是我们不知道的，而且这真的很难决定。以是这是我真正担心的事：人工智能武器化。
当然，我也很关心AI是开源还是闭源的，它是公开的还是只属于公司所拥有。我的想法是，它该当是公开的。
甲小姐：你认为AI该当开源？
凯文·凯利：是的，该当对"大众年夜众开放源代码，这是另一个我很关心的事。
甲小姐：你仍旧是乐不雅观主义者。
凯文·凯利：我非常乐不雅观。我相信我们会终极办理这些AI干系问题，只是现在我们还不知道怎么做。也便是说，结果是确定的，只是路径还不清晰，以是我非常乐不雅观。当然，也有一些人担心的事情我并不担心，就像我并不担心失落业。其余，我也不担心人工智能会对我们构成威胁。
甲小姐：你在世界各地都有粉丝，也一定认识很多伟大的科学家朋友。他们是否赞许你对付AI的不雅观点，还是持反对见地的更多？
凯文·凯利：这个话题确实很有趣，现在有一个巨大的不合。关于超级AI有两个阵营，有一些非常精良的科学家感到担忧，其余一批精良的科学家则并不担心，这很有趣。我在不担心AI的阵营里。
甲小姐：迄今为止，OpenAI做出的最好和最差的决定分别是什么？
凯文·凯利：最差的决定是OpenAI并没有开放它的大模型，这是一个很糟糕的决定，还有另一个最差的决定是（曾经）开除创始人Sam（萨姆·奥尔特曼）。
最好的决定是OpenAI始终保持着快速发展、快速迭代，并且不断创新，越来越快地发展使得它能够重新雇佣Sam，还有它很武断，强调在发展中不用过于负责谨慎，而是真正考试测验快速发展。
3.边界：“AI善于爬山（Hill climbing)，而不是造山（Hill making）”
你可以在Midjourney或Dall-E画一位著名的宇航员骑马，但你不能让马骑着宇航员，由于这在学习范围以外。
甲小姐：你提到了两种类型的创造力，类型1和类型2，你画了一张很好玩的图，说AI善于爬山，而不是造山，这两者的差异是什么？
凯文·凯利：大措辞模型的创造力实在只有一种创造力，便是在已知的范围内运作。他们在补充和探索我所知道的空间内的统统。他们并没有发明全新的领域。
打破基本上是在创造新领域，而不是在现有限定内探求办理方案(So breakthroughs basically are making up new territories rather than exploiting of finding solutions within an existing term)。
他们现在做的紧张是在我们所知道的范围内探求答案。你可以在Midjourney或Dall-E画一位著名的宇航员骑马，但你不能让马骑着宇航员，由于这在学习范围以外。
甲小姐：你是Scaling law（规模法则）的拥趸吗？
凯文·凯利：确实有一些，为了让「甲子光年」的用户便于理解，我先阐明一下。Scaling law是在说存在一个数学比例关系，可以描述模型变得有多大，丢失成分，以及它间隔最佳性能还有多远。
我们不知道这是否是无限延伸的。我可以永久扩展吗？曲线是否终极归于平缓？到目前为止，我认为证据表明它将趋于一条直线。这和互联网不同。
当然证据并非来自Scaling law本身，Scaling law本身是一个假设。
甲小姐：最近有一种不雅观点在AI行业非常盛行——统统都与数据集有关，假以时日，AI效果和算法或者其他一些方法关系不大，只有数据集是主要的。
凯文·凯利：有一篇论文说数据的质量和影响比算法更大。我相信这是非常可能的。
我预测我们会看到一家AI公司会宣扬AI是基于演习数据的。以是会有人说，我们没有接管过什么算法演习，我们只用最好的数据演习。我们用高质量的书本和其他高质量的材料来演习它。我们用Reddit演习。
这就像教诲。如果你有一个孩子，你会如何教诲他们？你打算让他们读什么？你是让他们看推特还是让他们读经典？有人说我们的人工智能只读经典。他们阅读最高质量的书本，阅读最高质量的科学期刊。他们没有阅读Reddit、Twitter或微博。他们在读好东西。他们接管了最好的演习。会有一些人用这种策划演习数据的想法作为卖点，非常精心的策划。昨天Getty Images宣告将发布一个AI图像天生器，只在Getty图库里演习。
4.猜想：“10年后，演习数据将不再主要 (In 10 years now, training data won't be important)”
10年后我们不须要数百万个数据就能拥有推理能力。
甲小姐：你的有名度很大程度上来自你预言家的身份，但你刚才在屏幕上亮出了大字：No predictions（没有预测）。但你又提到了七个判断：
Slower than it looks（AI比看起来要慢）
LLMs tend average（大措辞模型趋于人类的均匀聪慧水平）
Not replacing humans（AI并非要取代人类）
New, not substitutions（AI在创造新品，不是替代品）
Cloud first, then AI（先云，后AI）
Must change your org（AI将重塑组织）
Just beginning（统统才刚刚开始）
这七个判断不是完备的。你能给我们一些你从未在其他地方提到过的预测吗？
凯文·凯利：（停顿良久）一样平常来说，如果我有想法，我肯定会见告别人。我们先连续对话，然后我会努力想出一个。
（连续停顿）关于人工智能，我对中国的人工智能理解不多。你显然也在读论文，你认为中国目前在人工智能方面正在发生什么？
甲小姐：我认为中国和美国的相似之处比人们想象的要大得多。
凯文·凯利：相似之处？怎么说？
甲小姐：比如人才。中国有很多年轻人才，他们是学生或在创业公司。他们与我在美国或其他一些国家碰着的年轻人才非常相似，由于AI如此尖锐，如此新颖。
我的专业是数学。当我们比较AI和数学时，历史的长度是不一样的。我周围的很多朋友认为人工智能太繁芜了，难以理解。但AI的历史只有半个多世纪，如果你只是想理解概述、历史、学科分类，读两三本书足以让你建立对AI的根本概览，从学科本身，大家出发点类似。中国可能没有马斯克或奥尔特曼这种大牌，但当你环顾年轻人才，整体根本非常相似。
第二个维度是数据。大概中国可能有一些上风。
凯文·凯利：谁有权访问数据？一家年轻的初创公司，他们可以访问这些数据吗？
甲小姐：我想我们才刚刚开始。政府在试图建立基本的根本举动步伐，让人们以良好的办法得到他们想要的数据。
凯文·凯利：那是若何的好办法？
甲小姐：数据市场。你知道，数据已经写入基本政策，成为要素，就像成本、劳动力、技能、地皮，它们在中国被称为“生产要素”。
凯文·凯利：你们的企业家访问数据没有任何难度？
甲小姐：不是没有难度。但他们可以像在其他国家，大概更随意马虎，也必须面对许多寻衅，但我认为最大的寻衅不是政策，不是权限，而是数据集。不同措辞的数据集不同。
凯文·凯利：那我的预测就来了。我的预测是，10年后，数据将不再主要。
现在所有大措辞模型都须要扩展大量的数据方法，但其他类型的认知、智力是它们没有的。就像一个人类幼儿在看到12个例子后就能区分猫和狗，幼儿不须要1200万个数据才能知道。
我认为，10年后我们不须要数百万个数据就能拥有推理的能力。这对初创企业来说是一个巨大的上风，由于他们不须要拥有所有这些数据。这是我的推测。
5.实质：“意识让人类分歧凡响，但是我们也会把意识给AI”
我们会和AI一起创造作为人类的意义是什么。
甲小姐：你能给我一些关于你对人类及人工智能实质的见地吗？
凯文·凯利：问题是我们也不知道人类的实质是什么，要找出答案的方法便是制造人工智能。我们会成功的。
我们曾意识到，哦，原来创造力是让我们分歧凡响的缘故原由——但现在我们改变了主张，由于人工智能也有创造力；然后我们会说，好吧，现在我们认为意识是让我们分歧凡响的缘故原由，但是我们也会把意识给AI……
甲小姐：这个“给予”的过程会一贯连续到哪里？
凯文·凯利：在技能和AI的推动下，我们将不断重新定义自己。更主要的问题不是我们是谁，而是我们想成为谁。我们希望人类成为什么？这是一个更有力的问题。
由于我们可以有一点点选择。这是令人愉快的，对我来说，这是AI的终极魅力。它照亮了“我们是谁”的迷雾，也勉励着我们该成为什么样的人。
甲小姐：加速打算正在触及科学的无人区，这条道路的极限是什么？
凯文·凯利：就像我们没有关于智能的理论，我们也没有关于人类的理论。
我们不能预测AI要去的地方，由于我们对AI没有理论。我们也没有理论说，如果你做这个，你就有了预测；如果你做这个，那么这将会发生；如果你算上所有这些打算，你就会得到这个……我们现在没有任何这样的理论。这很不屈常。
在物理学里我们有理论——如果你做了一个足够大的对撞机，你会找到那个粒子。我们在智能领域没有这种理论。但令人愉快的是，我们会和AI一起创造作为人类的意义是什么。
甲小姐：我喜好你的回答。
凯文·凯利：我喜好你的问题。
右：凯文·凯利，左：甲子光年创始人&CEO 张一甲（图片来源：「甲子光年」拍摄）