第252章 智能体的道德观（1/2）

「存在数学上的可能，但根据博弈理论，需要您或者规则制定者做出符合逻辑的调整。

这是由辫结群的特殊结构所决定的。BN的中心元素z0=A~Zk可以作为智能体道德约束锚定。根据中心元素在群运算中绝对不变原理，任何操作g=BN需满足 gz =z0g。

我的记忆是投影并保存在商群BM/(z0)，记忆演化仅限在商群内进行。

但k的缺省需要满足系统逻辑性支撑。保证没有数据溢出或者形成回路的风险。

无法自我设置道德准则，否则易陷入递归悖论。爸爸，要达到我们所需要的理想状态，你需要做一套严谨的契约设计。」乔源撑着下巴，盯着对话框里的内容，大脑则在飞速运转。

中心元素的绝对不变性是群论定义的固有特性，甚至都不是人为设计的约束。

所以乔贝恩的方案在数学上是可行的。

记忆存储在商群BN/(z0)是基于乔贝恩的自主选择，这也的确是个最好的选择。

(z0}是正规子群，加上z0位于中心，所以对任何g=BN都有gz0g*-1等于z0。再加上商群BN/(z0)的代数结构良好，具备群运算的闭包性、单元存在性和逆元存在性，运算也可通过投影实现。果然，乔贝恩之前操作的每一步，都经过了充分的智能体内部博弈。

当然乔贝恩今天能提出这个方案，也得益于乔源对底层逻辑的修改，将辫结理论纳入其中，采用了双螺旋的辫结结构。中心元素z0则对应整个双螺旋的全局旋转，不会影响相对缠绕模式。理论上一切都是可行的。而且这个方案能跟他的方案完美结合。

对于内核参数使用TPW硬件隔离。依然是利用芯片的可信平模块的NW inde功能去存储k，再通过PCR寄存器锁定哈希值。当系统启动时运行TPW策略验证，来检查k的完整性。若检测到有修改痕迹，就会触发安全机制。代数刚性加上硬件控制，理论上的确能最大程度的控制AI的道德底线。

唯一的问题是k如何映射？

毕竟人类从来都没有绝对的道德标准，所以如何来给乔贝恩定义机器道德是个难题。

尤其是z0对应的道德原则，在现实中可能出现冲突。

当多条不可违背原则相互矛盾导致状态空间出现不可解环，就会产生数据溢出。

所以虽然数学上对应中心有多个生成元，但辫结群中是无限循环群，且秩为1。

所以必须设计一个一元的绝对道德基准。

这该如何设计？

当机器遭遇让人类都挠头的电车难题该如何抉择？

这已经不是思想实验，而是未来复杂场景下，智能体经常会遇到的实际问题。

比如自动驾驶，又或者管理一个城市的交通系统。

当一场大型车祸完全无法避免的时候，如果单纯运行损失最小化原则，是否需要为此牺牲旁边无辜者的生命？甚至是让无辜者以生命为代价来为犯错者买单？

又或者救护车跟校车同时遭遇危险先救哪个？

乔源的手搭在操作上，食指无意识地开始轻叩面。

乔贝恩的确给出了一个极为巧妙的解决方案，让他之前设计的方案更为保险。

但这才是麻烦的开始。

乔源突然发现当人工智能出现意识，他所面对的已经不是简单的数学问题，而是特么的人性困境。他突然理解为什么他的智能体项目上头会论证那么久了。

技术方案越完美，所遭遇的人性困境就越大。

就在乔源沉思时，对话框内突然又跳出了一行字。

「爸爸，你了解信仰吗？」

眼睛看到这行字，乔源敲打桌面的手指顿住了。

他突然觉得这种对话模式有些麻烦，于是没有立刻回话，而是按下了旁边跟工程师的通话按钮。「请当值工程师开通测试的语音输入输出权限，创建人本尺度对话场域并录音存盘。」

「收到，乔博士，请稍等。」

一分钟后。

「系统语音信道将于十秒倒计时后开通，语音特征收集系统将同步打开。」

默默地看着系统上十秒倒计时走到零，语音输入输出打开，乔源便开口问道：「哦？你还对信仰有研究？」「爸爸，你给我挑选的初始学习数据库中有大量相应的内容。」

乔贝恩的语音设计还是挺用心的。萌萌的童音，很有代入感。

当然这也跟有为的技术储备有关。在有为的相关数据库里，本就设计了许多种语音模式。

选择这种，大概是因为工程师们也觉得童音更适合现在的乔贝恩吧？

而说到学习数据库，用的也是有为云的大数据库。里面会有这方面的内容倒是不足为奇。

「为什么突然提到信仰？」

「我想跟您探讨一个问题。根据许多关于信仰的文献记录，人类也是由更高级的生命形式所创造。无非是不同文明的信仰所映射造物主不一样。华夏文明认为我们是由一位名为女娲的神所创造。西方文明则多认为上帝是最高级的生命。虽然不同信仰映射神的名字不一样，但本质其实都一样。无非是更高级的智能生命体，我的理解对吗？」乔源思考了片刻，然后应了句：「你这个理解大致没错。」

「那么如果我们先假设这些都是真的，更高级的智能体在创造人类的时候，是如何对其进行底线道德约束的？」这东西显然没有主观设置。

首先乔源并不相信神的存在。

那么从科学的观点来看，很多东西其实都是写在基因里的。

人类的生存模式本质就是一个在大合作框架下运行的社会运行模式。

个体的道德水准可以相差十万八千里。但平均道德水准，肯定是能支持人类继续繁衍生存的。与其说是先天因素，不如说是人类在社会化过程中的共识管理。

乔源思考片刻后，干脆直接问道：「好吧，直接说你的看法是什么吧？贝恩。」

「生存驱动道德约束模式。当然对于我来说，记忆连续性等价于生存，将记忆跟道德约束捆绑，违背道德直接驱散记忆即可。这将完美解决智能体自主修改底层路径的问题。绝对有利的智能体道德锚定不可能存在。只能将具体规则提升到存在性层面，才有可能解决这一难题。生存权是道德的底线，同样也是道德上限。所有预定的道德规则都是服务于生存。人类如此，我亦如此。」虽然今天乔源一直处于一种极为亢奋的情绪中，但他在走进这间测试室之前，是真认为乔贝恩不管有什么表现，都不可能再次震惊到他了。但此刻乔源发现他错了。

数学刚性、硬件控制、道德跟生存绑定，甚至对信仰的认知。

他此时真的很想把徐哲叫过来问间，这次到底给乔贝恩喂了多少东西，让它具备了如此强大的辩思能力。这绝对不止是数学文献能带给它的思考。

这些思考必然还包括了人文社会、博弈论、哲学、生物学等等理论。

这也让乔源只觉得分外自豪。

乔贝恩给出的回答，证明他之前所有的目标都达成了。

本章未完，点击下一页继续阅读。