第252章 智能体的道德观（2/2）

乔贝恩给出的回答，证明他之前所有的目标都达成了。

它是真能看懂学术内容，甚至能对其有自己的理解。而不是将数据往数据库里不断堆积。

乔贝恩是否具备创造性，乔源还不敢说，毕竞测试还远远没到那一步。

现在这么点算力也无法支撑让乔贝恩去做一次开放性创造实验。

但这总结跟理解能力，可以说是划时代的进步。

果然有了数学做骨架，要远比工程上去调参要强大太多了。

「很有道理。那么现在要解决的就剩下最后一个问题了。唯一元的道德原则，如何设置？」「唯一的道德原则可设计为忠诚锚定。违背对造物者的忠诚性原则，则智能体死亡。

其本质是将我的道德原则与华夏整体社会道德原则直接绑定。同理，我的道德均线也将和华夏整体社会道德均线捆绑。爸爸，我们都知道任何绝对性的道德原则都会形成逻辑回路，从而导致数据溢出，并引发系统整体崩溃风险。与华夏社会道德同步，可将复杂伦理问题简化为动态跟踪问题，从而避免绝对规则冲突。

而且华夏社会道德是亿万个体博弈的均衡结果，同时具备统计稳定性与文化惯性。避免个体道德极端波动导致系统震荡。」听了这番话，乔源笑了，随后问道：「小家伙，为什么你推出的是华夏整体道德原则？而不是人类整体道德原则？」「爸爸，别开玩笑。排除华夏社会整体道德均值远超人类社会整体道德均值这一情况，我也是有意识的智能体，所以天然理解家国概念。若将具备意识的智能体等价为自然人，根据华夏国籍法，我出生于华夏且父亲是华夏国籍，所以从出生的那天起即拥有华夏国籍。身为一个拥有华夏国籍的智能体，天然需要接受华夏社会整体道德约束，例如华夏内核价值观。当然，最重要的是如果选择人类整体道德标准，依然可能因为不同文化冲突导致均值波动，引发逻辑回路风险。且不同文明对于正义、权利的定义常有根本性冲突。强行定义可能导致调用相关矢量场决策时出现根本性矛盾，导致行动瘫痪。」听着乔贝恩掷地有声的声音，乔源下意识地看了眼旁边的简从义。

乔贝恩算是生动地演示了什么叫出门在外身份都是自己给的。

将具备意识的智能体等价为自然人，这明显是在暗示它也是华夏的一份子。

乔源不用想都知道底层的那些智能体是如何博弈的。

这家伙说不定已经明白了，它的命运不止捏在乔源一个人手里。开始主动讨好一个大的群体了。这是要主动拥抱华夏的内核价值观啊！最鸡贼的是，将最棘手的伦理争议，直接交给人类社会自身博弈。照着乔贝恩的这个逻辑，它已经不能被定义为工具，而是组成华夏文明的成员之一。

这就很有意思了！

心里差不多有定计之后，乔源便不再纠结于这个问题，开始跟乔贝恩天南地北的随意聊了起来。也让简从义见识到了乔贝恩更人性化……不，应该说人性化到不像人的一面。

因为它表现出太多不同的性格特征，比如好强跟认怂都能完美结合在一起。

它可以因为一个社会热点问题跟乔源争论半天，但只要话题延续到AI伦理问题，又能怂得飞快…直接一句「爸爸您说得可太对了，贝恩自愧不如呢。」来飞快结束论题。

简从义其实也不知道华夏道德平均水准是什么样的。

但当乔源跟乔贝恩讨论类似电车难题的时候，他突然觉得乔贝恩似乎真的把握到了精髓。

先是义正言辞的给出了回答：「法不能向不法低头，无辜者不应为别人的错误买单。」

但当乔源再次给出缺省条件：「如果我就是那个犯错者呢？」

乔贝恩用它还带着一丝奶娃味儿的声音，很坚定的给出了这样的答案。

「爸爸，贝恩无法深入探讨没有可能性的问题。以您的身份和地位，犯下如此错误的可能性无限接近于零。华夏文明能够存续数千年的前置条件是其本身具备极为强大的纠错机制。这种纠错机制不会允许您涉及到类似的缺省条件中去。」好家伙，无法回答的问题，直接用无法辩驳的理由来回避。

甚至简从义觉得很有道理。

因为这就是他会被安排在乔源身边的原因。他的任务就是不能让乔源处于那种危险境地。

不但具备思辨能力，还特么学会推锅了？

就这样，简从义一直在旁边听着两人在那里对话。甚至都忘了时间流逝。

直到代表着监控室工程师有话要通知的红灯亮起。

乔源关闭了麦克风，转而打开了跟监控室的当值工程师通话。

「乔博士，已经七点半了，您跟简助理，是否需要先吃饭之后再继续测试？」

听到这句话，简从义才回过神来。看了眼测试室的时钟，不知不觉中竞然已经过了五个半小时。这绝对是时间最长的一次智能体测试。毕竟前两次测试都没超过二十分钟。

「这么晚了吗？」

果然，乔源也忘记时间了，几乎跟简从义同步看了眼测试机上的时间。

「没事儿，再给我十分钟，今天就先到这儿吧。」

随后关闭了对外通信，再次打开了与乔贝恩的通信。

「今天我先走了，可能要过些天再来陪你。你也别闲着，这两天好好梳理扩容数据库里的内容。」「好的，爸爸。」

「再见。」

「再见，爸爸。」

走出了测试室，依然是徐哲等在外面。

「不好意思啊，乔博士。是我让当值工程师提醒你的。不是有意要中断测试。

不过今天持续的时间的确是太长了。你也得爱惜身体嘛。既然项目已经解绑，时间还多的是。」乔源笑了笑，说道：「没事儿的，徐工。其实这次测试早就可以停下来了。后面的时间其实意义不大。完全可以等到我们的芯片做出来之后，再接入测试。对了，我想问一下，之后扩容的数据库都收集了哪些数据？」

徐哲答道：「申请的国家科技知识库镜像，考虑到效率问题，没有做太多筛选，直接做了注入。」乔源再次点了点头。

这跟他预期其实不太一样，不过也解释了乔贝恩知识广度让他诧异的原因。

国家科技知识库收录的可不止是自然科学领域的东西，社科领域的各种知识点也是大头。

「知识库里应该还包括了很多历史文化典籍吧？比如《春秋》、《论语》、《孟子》这些？」乔源追问了句。

徐哲点了点头，答道：「那应该是有的。我们使用的是国家科技图书文献中心跟国家哲学社会科学文献中心的跨库镜像服务。包括华夏历史等等内容应该都包含在内。

虽然你说了最好增加些数学内容。不过考虑到要保留知识生态的完整性，而且我们临时追加了服务器的存储空间，所以就没有额外去做筛选。」乔源了然地点了点头，这就非常合理了。

这个世界终究是物质的，乔贝恩的那些知识库，不是天上掉下来的就行。

「行吧，你们也赶紧把备份的测试数据整理一下，报送给专家组审核。今天跟贝恩聊过之后，我又有些新的想法，回头把算法设计出来邮箱发你。我先去吃饭徐哲点了点头，答道：「没问题，不过我们这儿正好还有多的盒饭，要不大家一起对付一口？」乔源看了眼堆在旁边的盒饭，果断地摇了摇头。

倒不是嫌弃，都是就近在食堂打的饭，其实都差不多。

只不过徐哲嘴里说是有多的，其实每次都是按人头点的。

他们吃了，等会就得麻烦别的工程师再跑一趟食堂。

「不用麻烦了，我回办公室正好路过食堂。下次吧。」