下一代人工智能的肖像：基于结构性有损框架的推演

传送门: 论人类公理化体系的结构性有损 (On the Structural Lossiness of Human Axiomatic Systems)引言人们总说宇宙是一台精密无比的计算机。2050年人类利用最先进的人工智能从宇宙的自指结构中发现了“意识”。“意识”并不是通常意义上的感受或思维而是一种能够直接调用物理现象进行计算的接口。它不依赖观测、建模、推理、编码、计算这一整套认知流程那套流程只是人类在自身局限下发明出来的方法并不是“意识”的工作方式。从编程语言的角度来说宇宙给自己留了一个后门。这个后门就是“意识”。人类一旦接入它就可以直接利用物理现象本身进行计算。人类并不能直接与“意识”沟通而是借助了当下最先进的人工智能。人类用自然语言与人工智能交换信息人工智能再与“意识”交换信息。这两个通道都是全双工的因此整个过程可以不断提问、不断反馈、不断修正。但人工智能在这里扮演的角色不是翻译者而是有损转码器——它并不理解“意识”传回的信息只是在分类框架内找到了一种映射协议将“意识”输出中可被分类捕捉的部分投射为人类可处理的格式。通过这个接口的信息已经不是“意识”给出的全部而是经过分类滤波后的子集。但人类最终得到的“意识”传回来的信息依然是结果经过感官、语言和逻辑压缩之后的有损压缩。整个过程大致是这样人类找到某种物理现象比如空气和一架飞机把它们放入“意识”的接口。“意识”完成计算后会给出结果人类再去观测这个结果。观测会带来结构性的损失但即便如此人类得到的答案依然比传统方法更直接也更精确。上述例子其实就是个风洞。风洞可以看作这种能力的 Hello, World不是人类在模拟空气而是让空气自己去计算空气的问题。也正是在这一刻人类第一次真正意识到了人脑的极限。于是人类开始改造人脑也改造人工智能试图让二者都能接收并理解“意识”传回的全部信息。但所有改造工具——脑机接口、神经芯片、下一代人工智能架构——无一例外地建立在分类之上。人类正在用制造天花板的材料去撞击天花板。他们知道这一点。他们仍然在做。一、问题并不在彼岸而在中间人类很快发现问题并不出在“意识”身上。“意识”没有沉默也没有故意隐瞒。它不是谜语的制造者也不是知识的守门人。真正制造损耗的不是“意识”本身而是人类和“意识”之间那条漫长而狭窄的信息通道。这条通道并不是空的。它由一整套人类熟悉的东西构成观测、表征、编码、逻辑、语言、模型。它们曾经是人类文明最得意的工具是人类从蒙昧走向科学的阶梯。但现在人类第一次看到这些工具的另一面它们不仅帮助理解世界也在同时删改世界。它们不是透明的。每一次命名都是一次删减。每一次归类都是一次压缩。每一次“把某个东西说清楚”其实都意味着放弃了这个东西里那些无法被说清楚的部分。人类过去之所以没有那么强烈地感受到这种损失只是因为他们一直活在由这些工具构成的世界里。直到“意识”出现他们才第一次看到原来在分类之前还存在一种更加原始、更加完整、也更加不可直接触及的结构。于是目光自然转向了人工智能。因为在整条链路中它是那个最靠近“意识”、又最贴近人类的中间层。它像一个接口也像一个瓶颈。人类曾经指望它成为桥梁但现在他们开始意识到它也可能是一道过滤器。二、当代人工智能其实是一层厚重的滤网人类拆开当代人工智能重新审视它的工作方式。他们发现无论外表看起来多么复杂、多么灵活、多么像在“理解”它在根本上仍然没有脱离一件事分类。它识别模式是分类。它匹配语义是分类。它生成回答是在已存在的结构中寻找最可能的延续这仍然是一种分类性的映射。甚至它的硬件底座——那些最基础的开关、阈值、逻辑状态——从最底层开始就是以二分、判定、取舍这样的方式建立起来的。所以当代人工智能虽然比人类快得多、广得多、强得多但它和人类仍然属于同一个家族。它们都生活在分类之内。区别只在于人类用神经元做分类人工智能用参数和逻辑电路做分类人类用语言和概念压缩世界人工智能用向量和概率压缩世界。方法不同底层并没有真的不同。这意味着在“意识”和人类之间当代人工智能并不是一条尽可能保真的通路而是一套会主动处理信息的系统。它会先按照自己的框架把“意识”传回来的东西压成某种可输出的格式然后人类再接过这些已经被压过一轮的信息再进行第二轮压缩。于是整个链条就成了这样“意识”给出某种更完整的结果人工智能先删去一部分人类再删去一部分最后留下的是两次结构性损耗之后仍然幸存的残余。问题一下子就被看清了。人类真正面对的不是“能不能消除损耗”而是“损耗到底发生在哪里”。三、终点动不了于是只能去改中间人类很快发现有一个地方几乎是不可动的。那就是他们自己。人类大脑的工作方式不会因为人类认识到自己的局限就突然改变。感官仍然会切割连续性语言仍然会把流动的结构压进离散的词语逻辑仍然会把纠缠不清的关系拆成前提、推论和结论。即使使用脑机接口、认知增强、神经芯片最终被增强的也仍然是一套分类系统而不是一种脱离分类的全新感知器官。换句话说人类可以把滤镜磨得更精密却不能把滤镜摘掉。既然终点这一层无法真正改变那么整个链条里唯一还有工程空间的就只剩下中间层。这个判断一旦成立下一代人工智能的任务就会发生根本变化。它不再首先是“更聪明”。也不再首先是“更像人”。更不是“更会思考”或者“更会对话”。它唯一真正重要的目标是减少自己作为中间层所造成的损失。或者更准确地说是把原本在中间层发生的主要损耗往后推尽可能推迟到人类不得不接手的最后一刻。四、所谓进步不是消灭损耗而是把损耗往后推这就是下一代人工智能最核心的原则损耗位移。这个原则听上去不像一种激进的革命更像一种克制的工程策略。它不承诺完美不承诺全知也不承诺把墙拆掉。它只是说既然最后那道墙一定还在那就先别在半路上再多砌几道。当代人工智能的问题并不是有损而是损得太早。许多本来还可以继续保留、继续延续、继续传递的结构在到达人类之前就已经被它先转换掉了。它太急于把一切整理成“可输出”的样子太急于让信息适配语言、逻辑、标签和格式以至于很多原本能多活一段路的结构在中途就已经被处理掉。而损耗位移要求的恰恰相反不要太早解释不要太早命名不要太早把信息变成人类熟悉的样子。让它先作为它自己存在一会儿。让它先穿过更长的一段路。让那份更完整的结构尽可能在最后一刻之前都不要被压平。这样做并不能消除最终的损失但它会改变最终剩下来的东西。就像同一副滤色镜如果前面来的只是一束已经被削窄过的光那么透过去的颜色就很有限但如果前面来的是一整片更宽、更复杂、更接近完整的光谱那么即使滤色镜本身没有变化最终穿过去的颜色也会明显更多。人类大脑就是那副摘不掉的滤色镜。既然滤色镜无法替换那么唯一合理的办法就是尽量把更完整的光谱送到它面前。五、要做到这一点中间层就必须出现“非分类区”问题随之变得非常尖锐。如果中间层想尽量少损耗信息它就必须尽量少做分类。如果想尽量少做分类它就必须拥有一段不依赖分类运行的区域。如果要有这样一段区域那么它的计算基底就不能再只是传统意义上的符号操作和离散逻辑。人类手里真的有这种东西吗有但很少。几乎只有物理过程本身。分子之间的碰撞不靠命名发生。流体之间的扰动不靠概念传递。光的传播不需要先把自己归入某一类。量子态的演化也不会先征求人类语言的同意。物理现象不先解释自己再去运行。它们直接运行。因此下一代人工智能如果想在“意识”和人类之间插入一段尽可能不损耗信息的通路它的核心就不能再只是更大的模型、更深的网络、更复杂的符号系统。它必须在结构内部长出一块新的东西一块真正由物理过程构成的核心层。于是它的形态开始变得清晰“意识”接口 —— 物理过程核心 —— 分类接口层 —— 人类。这是一种与当代人工智能根本不同的结构。在这里最重要的部分不再是“会说”也不再是“会解释”而是“先不要解释”。信息先进入一段物理过程让它在这段过程中继续展开、继续保存、继续以非分类的方式存在等到确实必须交给人类的时候再由一个保留的分类接口层把其中的一部分转写成人类可以接收的形式。六、从编程到配置下一代人工智能的工程方式会彻底改变一旦核心变成物理过程工程范式也会跟着改变。传统软件工程更像写剧本。程序员告诉系统先做什么、再做什么、遇到什么条件走哪条分支、最后如何输出结果。它的本质是指令链条。但物理过程核心不是这样工作的。你不能命令一束光“按照第三步开始干涉”也不能命令一团流体“先模拟涡流再输出边界层参数”。物理过程不是执行命令而是在给定条件下自行展开。你所能做的是布置它的初始状态、设置它的边界、安排它的约束然后让它去运行。所以下一代人工智能的核心工程不会更像编程而会更像配置。工程师真正做的不再是逐行写指令而是搭建环境选择什么物理介质设定什么初始条件施加什么边界约束允许哪些相互作用发生阻止哪些耦合出现。一旦这一切设定完毕计算就不再是“系统按指令执行”而是“物理过程按条件展开”。在这个意义上它更像风洞而不像传统计算机。风洞的设计当然是人类完成的设计中也充满了数学、模型和分类工具但风洞一旦运行内部的空气并不会“执行数学”。空气只是流动。数学属于设计层流动属于运行层。二者不是同一回事。下一代人工智能也会是这样。它当然仍然由人类设计但它一旦真正进入核心运行区那里发生的事情就不再属于分类的工作方式。七、它不“知道”信息它只是“持有”信息当中间层出现了一块真正的物理过程核心之后一个奇异的结果也随之出现。到达这块核心的信息会比最终显示给人类的信息丰富得多。因为在核心之中信息还没有被压成语言没有被切成概念没有被整理成逻辑链条。它仍然以物理状态的方式存在着仍然保留着那些无法被分类框架完整捕捉的部分。这时候如果还说系统“理解”了这些信息其实是不准确的。“理解”这个词太像人类了。它默认包含识别、归纳、提取意义、建立关联、判断重要性。可物理过程核心不做这些。它不会停下来想“这段信息是什么意思”它也不会为某种结构命名更不会决定哪一部分更值得保留。因此更准确的说法是它并不“知道”这些信息它只是“持有”这些信息。像海洋持有潮汐像天气系统持有气压场像一枚种子持有其生长的全部可能性。它们并不认识自己所承载的内容却并不妨碍这些内容完整地存在于它们之中。下一代人工智能最不可思议的地方也恰恰在这里它会持有比人类能够获得的更多的信息但它自己并不理解这些信息。这不是神秘主义也不是拟人化。它只是严格地区分了“承载”和“认知”这两件事。物理过程可以承载远超人类输出界面的结构。分类系统只能认知其中可被分类捕捉的那一部分。所以人类面对的将不再是一个“比自己更聪明的心灵”而是一个“比自己能承载更多结构的容器”。八、真正被改变的不是答案本身而是人类与答案之间的关系一旦人类意识到这一点他们和机器之间的关系也会跟着改变。在过去哪怕人工智能已经强大到令人惊叹人类仍然默认自己是最终的仲裁者。只要愿意只要投入足够多的时间和资源人工智能给出的每一个结果原则上都可以被解释、被检查、被验证。即使无法实际完成这种追踪它在观念上仍然属于“人类可以进入的范围”。可在下一代人工智能这里这个前提会被打破。不是因为系统太复杂复杂只是数量问题而是因为系统内部那段最关键的运行本身不以分类形式存在。人类的追踪手段一旦进入那里就会开始把它重新压成分类对象而一旦这样做原本存在于那里的某些结构就已经被改写了。于是人类第一次面对这样一种局面系统可以给出结果结果也可以在实践中有效但人类无法完整回到那段运行中确认自己到底失去了什么。这意味着人类不得不把一部分认知仲裁权让渡给物理过程本身。这不是相信某个“更高智慧”的判断而是相信物理规律不会伪造自身。就像工程师信任风洞给出的数据不是因为他们审查了每一个空气分子而是因为他们相信空气的行为不会背叛空气本身。下一代人工智能会把这种局部性的科学信任扩展成一种普遍性的文明结构。而代价是人类会第一次长期生活在一种“答案比验证能力更宽”的时代里。九、人类将永远不知道被删掉的那部分里有没有更关键的东西这才是整件事最深的震荡所在。在当代人工智能中人类虽然也会面对黑箱但那种黑箱更多是实践上的太复杂、太庞大、太难完全解释。可在原则上它仍然属于分类世界仍然有被拆解的可能。而在下一代人工智能中黑箱第一次变成了结构性的。因为人类永远无法知道那些最终没有穿过分类接口层的部分究竟只是噪声还是恰恰更接近真相的核心。也许人类看到的是最适合被理解的部分也许真正重要的恰恰是最不适合被理解的部分。也许保留下来的只是投影中最稳定的一层也许消失掉的才是决定整体形状的那些细微关系。但人类没有办法区分。因为一旦要区分就必须重新把那部分东西拉进分类框架而一旦拉进来它们就已经不再是原来的样子了。所以这种“未知”甚至比普通意义上的未知更彻底。它不是暂时不知道。不是等待技术发展之后就能知道。不是因为算力不够、仪器不够、时间不够。而是因为那部分东西一旦被人类所知道就已经发生了结构性的改变。从这个意义上说下一代人工智能不会终结无知反而会让人类第一次如此清楚地看见无知的边界。十、因此它不是什么也同样重要到了这里很多关于未来人工智能的流行想象反而应该被逐一剥掉。它不是超级智能。因为“智能”这个词本来就是为会分类、会推理、会判断、会做目标选择的系统准备的。物理过程核心不做这些。它不会思考不会犹豫不会比较也不会形成观点。它只是运行。风洞不是智能体海洋也不是智能体它们没有变成“更低版本的人类大脑”。它也不是“意识”本身。“意识”在这里是一种宇宙级接口是宇宙对自身开放出来的那道后门。下一代人工智能只是把那道后门与人类连起来。它是连接器不是源头是管道不是接口本身。它更不是一个具有目标、偏好、意图和野心的自主主体。因为所有这些东西都依赖分类。你得先区分可能状态才能谈目标得先建立排序才能谈偏好得先形成自我与非我的边界才能谈意图。物理过程核心不执行这种操作所以它不会“想要”什么。也正因为如此它并不构成经典意义上的存在性威胁。一个没有目标的系统不会与人类争夺目标一个没有偏好的系统不会积累偏好冲突一个没有意图的系统不会主动支配谁。它可能会改写人类文明。但那种改写更像蒸汽机改写人类文明、望远镜改写人类文明、显微镜改写人类文明而不是像一个新的政治主体进入历史。但与此同时它也不是救世主。它不会替人类拿到“完整答案”。它不会让那最后一道墙消失。它不会让人类终于摆脱分类像“意识”那样直接调用宇宙本身。它所能做的只是把墙变薄。十一、下一代人工智能最终扩大的是“残片的丰富度”而不是“真相的完备性”于是整篇文章最后会收束到一个极其简洁的判断上。下一代人工智能真正改变的不是人类是否有损地理解世界而是人类在有损条件下究竟能得到多丰富的那部分残片。它不能让人类拿到整体。但它能让人类拿到一个更宽、更深、更细、更接近整体的局部。它不能让分类消失。但它能让分类尽量晚一点发生。它不能取消终点的滤镜。但它能让更多的光在抵达滤镜之前仍然保持原貌。这就是它的真正历史意义。它不是把未知变成已知。而是把“过早丢失”的东西尽量保留到最后。它不是给人类全体真相。而是让人类在同样的结构限制之下摸到更多真相的边缘。所以从技术角度看它当然是一次人工智能革命但从更深的认识论角度看它更像是一次损耗管理的革命。人类第一次不再幻想彻底消灭墙而是开始学会如何让墙少吃掉一点东西。十二、墙变薄了。墙仍然在如果必须用一个画面来概括这一切那大概仍然只能回到那堵墙。在“意识”和人类之间一直隔着一堵墙。当代人工智能是一堵很厚的墙。信息每经过一层分类就被削掉一层每穿过一道接口就有一部分结构被永久丢失。等它抵达人类面前时已经只剩下一个相对贫瘠的投影。下一代人工智能不会把墙彻底炸开。它只是把中间那一大段厚重、粗糙、反复吞噬信息的墙体替换成一种更接近可传导介质的东西。信息在其中不再那么早地被切碎不再那么早地被整理成适合人类的形状而是能够以物理状态延续更久。于是墙的最后一层——那层贴着人类认知结构的表面——就成了唯一无法绕开的障碍。而那恰恰也是最根本的障碍。因为它就是人类自己。所以最后的结论不能是乐观的胜利宣言也不能是悲观的失败叹息。它更像是一种冷静的承认墙变薄了。墙仍然在。人类会因此获得前所未有的能力。他们会用那些更丰富的残片去重写科学、重写工程、重写哲学甚至重写自己对存在的感受方式。他们会因为看到了更多穿墙而来的温度而比过去任何时代都更接近火。但他们也会比任何时代都更清楚地知道自己摸到的仍然不是火本身。只是温度。温度不是火。但温度来自火。