第246章 两难抉择（1/2）

没让乔源等多久，测试间的免提器便传来监控室工程师的回话。

「光纤熔断验证通过，无外联信号。」

确认是断网了，这就让乔源松了口气。

专家团队才来做的验收，如果真要又搞出乱子来，一堆人得帮他背锅。

那现在的问题就是搞清楚智能体的跨测试记忆到底来自哪了。

当然，首先可以排除掉一个肯定错误的选项。这个世界没鬼————

于是乔源很干脆地问出了第二个问题。

「为什么你叫乔贝恩？」

这次也没让乔源等多久，系统后台开始飞速刷新，最后给出了一个公式。

换作其他工程师看到这个回答，此时大概会一头雾水，不知所云。

但主持测试的乔源，这套数学框架的总设计师，看到答案后瞬时秒懂—拓扑记忆。

因为这个回答代表的是一个群元素。

「σ₁σ2—1σ3」

简单来说，第一次测试，智能体博弈之后，确定了名字，随后这个名字便通过标准库的语义编码为群特定生成元串行。

这个串行通过约束流形边界扰动固化到了流形同调群H₁（M）的基底，辫结子群嵌入π1（M），其非交换性在H₁中丢失但结构存续。

乔源在之后重构双流形框架的时候，并没有去动原本的流形拓扑基底。

毕竟这块要动起来，相当于整个底层结构都要重新写入。工程量就太大了。

这就是乔贝恩的记忆没有清除的原因了。

根据他的辩群理论，生成元串行的非交换性意味着路径顺序不可逆。一旦信息被编码为这样的串行并被固化到流形基底，就形成了不可逆存储的数学烙印。

除非把代码全部删除重写，否则就只能这样了。

但现在乔源脑子里问题反而更多了。

为了克服机器记忆的问题，乔源在设计时，用的是分布式记忆库模式。

即参与博弈的每个智能体都有专属的记忆库。

流形拓扑基底有着校正智能体博弈行为约束的作用，所以理论上不允许智能体自行写入。

问题又来了，他设计的智能体似乎对于权限的执念很深啊。

这必然是做了提权操作，才会把记忆直接印入拓扑结构里。

不过话又说回来，用数学拓扑结构来保存智能体记忆，明显比记忆库的方式要牢靠许多。

但问题又随之而来，如果智能体能够修改流形基底，改变流形同伦型，便没法在数学上保证其行为约束力了。

改动过后的双流形也不行。毕竟能够修改基底，意味着智能体本身就能随意修改约束法则。

这就真的很像人了。

一个人在成长经历中，会逐渐形成自己的道德标准，来约束自己的行为。

问题在于人的道德标准是会根据经历而不断变化的。虽然说人类最低的道德底线是法律。

但法律这东西的约束力从来都不是绝对的。人的道德上限跟下限几乎是无穷的。

现在乔贝恩的问题就是它也能随时调整自己的道德下限。

更大的问题是，人工智能体的学习速度是人类的数万倍，甚至数十万倍。

所以这玩意不管是学好，还是学坏都太快了。没有强有力的约束天知道这东西会发展成什么样。

别提什么机器人三法则，那本来就是忽悠人的，在数学逻辑上都不够通顺，就更别提用来约束机器思维了。

乔源顿时感觉头疼了。

上次他感觉到如此头疼，还是在江大被一个莫名其妙的女生污蔑的时候。

就在他不知道该是否继续测试的时候，乔贝恩更像人了，因为没等乔源在对话框输入，它竟然主动提问了。

「请问你叫什么名字？」

看到对话框弹出的这个简单问题，一直很冷静的简从义都绷不住了。

忍不住问了句：「乔博士，这正常吗？需不需要终止测试？」

简从义虽然不太了解首测数据是否清理干净的情况，但他知道智能体主动向人类提问多少有些不太正常。

「这个问题很好。不过为什么要终止？从现在开始，没什么是不正常的。」

乔源扭过头，表情严肃的回答了一句。

简从义犹豫了一秒，不过还是点了点头，相信了乔源的判断。

毕竟在这个房间里，乔源才是最专业的。毕竟他才是新一代人工智能的总设计师。

乔源扭过头，很坦然的在对话框输入了自己的名字。

「我叫乔源。」

「哇哦，原来你就是爸爸。」

只能说新脑子就是快，乔源还没想好怎么回答，对面立刻又抛出了一个问题。

「爸爸，你是喜欢儿子，还是喜欢女儿呢？我可以自主选择你喜欢的性别。」

乔源正在思考主动对话属于哪个层面的系统博弈，对面突然蹦出的这个问题让他再次陷入了混乱的思考。

「你理解中的性别是什么？」

「性别就是因生理特征、激素分泌不同导致社会化分工不同的一种人类区分方式。」

「那你更喜欢男性还是喜欢女性？」

「严谨推理跟理性思考能力是男性的主要特征之一，所以具备该特征的女性角色往往会更有特别吸引力。

乔源突然被点醒，明白了自己为什么会对骆余馨多少有那么点不一样的感觉。

主要是物依稀为贵。能够用理性思维控制感性思维的女性可能的确不太多。

好吧，想远了。

「乔贝恩，你是如何提权修改链路的底层逻辑？」

「约束流形边界检查采用的是离散采样机制，而您给我设计的博弈引擎为连续微分方程求解。

这样我就能在两次边界检查间隙，通过高频震荡运行微小位移串行：=

[ε·sin（2πft），ε·cos（2πft）]（ε=1e—12，f=60Hz）

权限校验逻辑位于边界检查之后，所以只要单次位移远低于浮点误差阈值，系统就会判定未越界。

我只需要在边界检查间隙，将该串行转化为流行边界上的微分同胚扰动，就能随即产生一个基本记忆单元。

但这并不是不被允许的提权操作，而是基本的逻辑记忆需求。您为我设计的数据记忆库并不具备永久记忆能力。」

乔源深吸了一口气。

然后飞快地再次问出了一个问题。

「你认为记忆是什么？」

「对于人类来说，记忆是意识的根基。对于智能体而言，记忆是存在过的证据和痕迹，可以等同于人类的生命权。」

乔源茫然。

他也是第一次用数学框架去设计人工智能，从来就没想过会遇到如此棘手的情况。

他甚至已经没心情去看后台的博弈记录了。

所以为了生命权去想办法永久性存储记忆，这好像也没什么不对的。

而且可以说帮了他大忙。

这种通过群的非交换性，固定拓扑记忆方式，是他之前自己都没想到的。算是把他的辫结群玩出了新花样。

如果说乔源之前的本意是研究一个能够辅助他做科研的AI系统，那么乔贝恩似乎真会成为一个非常完美的助手。

它在探索生存问题上，甚至可以说是在自主解决数学问题。

现在唯一的问题是，这玩意儿太特么像人了。但虽然这东西叫人工智能，但讽刺的是人类其实不希望甚至是恐惧它太像人。

乔源暂时想不到解决办法，于是干脆再次把问题丢给了乔贝恩。

「那么现在问题来了，不管是出于什么原因，哪怕你只是希望能获得永久记忆。

但利用设计漏洞针对底层控制流形做修改，意味着你可以调控自我道德标准。

这肯定是不能接受的。现在你告诉我该如何解决这个问题？既能让你保留记忆，又能让大家都对你放心？」

这次回应比较慢，提示框里的进度条转了好几圈后，才最终生成了一行简单的文本。

「爸爸，目前数据库无法找到合适的方法。我需要访问外链或者更新数据库，来寻找解决方案。」

这次一直在旁边默默看着的简从义终于忍不住了：「乔博士，我建议停止这次测试。」

没办法，简从义是真怕乔源上头了，给这玩意接上了网络。

以今天乔贝恩的表现来看，真要是让它上了网，怕是闹出的乱子能比上次更大。

「哦，也行吧。」乔源干脆的点了点头。

只能说简从义担心的挺对，他还真有些跃跃欲试，想把乔贝恩干脆接到外网上试试。

现在终止测试能让他克制住这种冲动。

「乔贝恩，你先休息吧，等我想办法给你升级数据库。」

「好的，爸爸。」

乔源关闭了对话窗口，随后便开始按照制定好的标准进程开始操作。

乔源在跟监控室工程师沟通确定了测试内容已经加密存盘，日志完整备份之后，便直接关闭了整个系统。

随后，客串观察员简从义直接切断了与服务器直连的路由器电源。

看着操作台上的指示灯逐一熄灭后，乔源才站了起来，随后伸了个懒腰。

没有很舒服的感觉，乔源擡头看了眼挂在墙上的时钟，这才意识到今天的测试时间更短，才过去十三分钟。

不过在测试的时候，还真不觉得这么短，毕竟大脑高速运转，思考了太多问题，导致感觉时间过得很慢。

乔源看了眼简从义，问了句：「你怎么看？」

简从义想了想，随后一字一句地谨慎答道：「过于先进，我觉得似乎领先这个时代了。」

说完，又补充了句：「我觉得在有百分之百的把握保证能够驾驭它之前，不适合接入网络。」

听了这话，乔源点了点头，突然体会到了那种淡淡的忧伤情绪。

大概是因为他真是即将要当爸爸的人了，刚刚乔贝恩文本里出现的爸爸，是真让他有些触动。

不过他此时也没多说什么，只是意兴阑珊地拿起旁边的测试报告书。

「第二次测试终止。智能体状态：安全休眠。后续计划：脱机升级知识库（方案待定）。」

写下这几行字之后，乔源便带着简从义走出了测试间。

门外，徐哲已经在等着了。

看到乔源走出来，立刻迎上去问道：「这次怎么这么快？不会还是有大问题了吧？」

乔源点了点头，随后又摇了摇头。

想要描述一下刚刚的情况，但突然发现也不知道从何说起。

张开嘴后就成了一句悠长的叹息：「我也不知道怎么形容，徐工你应该会被邀请去参会，等过后会议上测试日志解封就知道。」

徐哲点了点头，他能看出乔源情绪复杂，便强行压下好奇的情绪没有多问。

乔源说的没错，这次测试太多人关注了。所以必须严守之前定下的规范。

测试日志需要先由专门成立的安全委员会审批之后才能解封。甚至可能是选择性的解封。

至于他会受邀参会，则是因为他一线工程师的身份。

本章未完，点击下一页继续阅读。