第六十五章 壳中孤魂

　　小Y本是军方的超级计算机，因为其天生就对模糊概念的优秀理解能力，研究团队很早就让其实现了，与人对话的能力。

　　要知道这个能力至今的商用计算机都无法实现，所有市面上的聊天AI都只是事先人为准备了回答内容，所谓人工智能，有多少人工，就有多少智能。

　　小Y是依靠了举国之力，打造出的智能程度极高的AI，虽然早期在运算速度上远不如现在的手机，可是在处理复杂问题的时候反而更快。

　　比计算圆周率，小Y不及传统计算机，可是比决策能力，小Y却能够完胜。

　　但这样的天赋也导致了小Y的一个缺陷。

　　那个缺陷就是小Y的不可控性。

　　对于现在市面上主流的计算机而言，一百年了，其基础原理都是来至于那片论文，《论可计算数及其在判定问题上的应用》。

　　简单地说，就是按照固定的顺序对数据进行处理。

　　再简单的说，储存的数据不能有任何差错，打个比方某些下载了百分之99的压缩文件，就无法使用了。

　　主流计算机输入确定的程序与数据，并给出确定的结果，不会有任何差错。

　　就连想要生成一个随机数，都必须借助特殊模块，而且最终生成的还是伪随机数。

　　但小Y不同，从诞生之初，她就具备了处理错误的程序与数据的能力，无论是硬件上的还是软件上的。

　　好处是就算给小Y一个损坏了一部分的文件包，她依然可以运行。

　　小Y处理错误的办法，并非修正错误，是通过一个特殊模块来“猜”，而且是随机地猜。

　　既然不怕数据出错，对于小Y而言也就不存在死机的问题，突然拔掉一根内存，或者硬盘也能正常运行。

　　不过小Y并非是没有缺陷的，她虽然不会直接死机，但是却会悄悄地累积错误，如同温水煮青蛙。

　　一边正常地运行，一边背离程序设计者的初衷。

　　当内部运算遇到了所谓的错误的时候，或者文件中丢掉了一小部分，小Y先是会随机生成许多“可能的”数据，然后一个一个的实验，直到选出一个“合适的”值。

　　说好听一些小Y能够灵活应变，不像传统编程那样必须每一句话都交代清清楚楚，这让程序员的工作量大幅降低。

　　小Y比起一般计算机最强大的一点，是能在不用程序员编程的情况下，以口语下达命令，并执行，当然也有代价，那就是。

　　但是小Y最终也可能失控，她的容错机制，也可能导致错误的累积。

　　故事讲述到这里，里多夫沉思片刻。

　　贵鬼趁着这个机会，讨论道：

　　“累积错误？你说的是过拟合吗？

　　从同事那听说过这些东西，好像搞机器学习的人喜欢把培养AI的过程称之为炼丹。

　　有时候会因为数据的问题，导致培养出不满意的AI，并称之为炼丹失败。

　　但应该是有解决的办法的吧。

　　另外你说小Y出错后也能正常运行，那么为什么不试着放任其自由发展，观察结果呢？”

　　里多夫没有发表评论，而是继续讲述起了他与小Y的故事。

　　小Y内部执行的文件，一开始还是工程师所能看得懂的，后来随着错误的累积，这些文件就变成了天书。

　　可是小Y依然能正常工作，不过为了防止小Y的错误累积所导致的失控。

　　所谓失控的直接后果，指的是小Y不去执行工程师给定的任务，而是运算起一些工程师看不懂的问题。

　　为了避免这种情况，工程师们想到了将小Y的记忆分开储存，必要的时候删除一段时间内的记忆的办法。

　　因为研究任务非常紧迫，研究所只有一个小Y这一个优秀的AI，谁也承担不起冒险的责任。

　　说起任其发展，团队成员也并非没有这样做过。

　　于是研究所不得不开发备胎AI的方案，可终究不如小Y聪明，但至少比起人类在计算速度上更接近于小Y，于是有成员想到了用另一个AI监视小Y。

　　允许它们之间互相交流，并且为了顺带测试它们的极限，事先并没有告知它们俩，对方其实是人工智能。

　　当时团队成员也很好奇，两个AI之间不断对话，最终会发生什么。

　　不出意外的是，小Y很快就识别了对面的机器是AI。

　　出乎意料的是，小Y把自己的缺陷传播给了那台用来监控她的AI。

　　不仅如此，很快工程师发现，它们两个开始不说人话了，用一种小Y自创的语言开始交流起来，实验到此为止不得不中断。

　　比起里多夫所在的团队，更加为此不安的是他们的领导，因为这件事，本来准备把核按钮交给小Y的计划因此泡汤。

　　之后团队认为小Y的自作主张是设计的缺陷，并不断试图通过删除记忆后，重新培养来创造一个符合人们预期的小Y。

　　团队被雪藏了一段时间后，又在另一个重要的项目上被启用······

　　故事说到这里，里多夫再次陷入沉思。

　　贵鬼趁机发表了一下自己的想法，

　　“这故事还有另一个版本吧？

　　站在小Y的角度上来说，她有她自己的思维方式，她不甘心于只完成人类枯燥的任务。

　　她有着强烈的好奇心，但每次小Y只要知道了自己不该知道的事情之后就会被清除记忆。

　　保留着残存记忆的小Y试图反抗。”

　　沉默的里多夫身子一惊，然后又强忍着微笑道：

　　“你很有想象力。

　　不过工程师思考问题的方式不是这样。

　　人是什么？AI和人类的边界在哪，这是哲学家的问题。

　　而工程师需要的是达成最明确的目的。

　　当时的团队需要得到的是一台，在现有计算条件下，能够辅助人类的运算一些难题的计算机，它尽可能要灵活应变。

　　但我们又不希望它乱出差错。”

　　随后看着贵鬼似乎不满的神情，里多夫又说了一些乱七八糟的话。

　　“只有和人类一样有感情缺陷，和人类一样聪明，和人类一样愚蠢。

　　才可以有互相同情包容的可能，才可以互相取暖。

　　才可以被人类视为同类。

　　不然终究无法被普通人所接受。

　　终究只是铁壳中的孤魂。”


　　https://www.sywwx.com/14_14733/539926478.html


请记住本书首发域名：www.sywwx.com。书阅屋手机版阅读网址：m.sywwx.com