第242章 因为类人，所以不能用？（2/2）
当然乔源觉得自己也有问题。
因为他在跟智能体对话时一直开着后台，而且还是在高权限环境下。
「徐工，问题应该出在我这的test—proy服务上。它应该是解析了我用来访问有为云的AK/SK。」
「我们知道，后台日志我们的工程师正在加急分析。但现在的关键是我们还没弄清楚它到底是怎么升权的，以及如何调用的ECSAPI。我们正在紧急分析API调用路径。
现在的问题是，咱们这个测试要不然先中止了？等我们找到问题并修复之后再继续？」
「可以。」乔源言简意赅道。
不暂停也不行了。
让他的好大儿这么玩下去，天知道还能捅出什么篓子。
「呼————乔博士同意了。测试暂停，关闭服务器。」
徐哲没有挂电话，只是通知了一声下去。
乔源正打算挂电话，对面又开口了：「乔源博士————」
「嗯，有什么事，您说。」感觉自己闯祸了的乔源，格外谦虚。
「这个乔贝恩，啊，不，是新的智能体，嗯，您觉得是不是好像有点太智能了点。当然，我是说相对于这个时代而言。」
乔源想了想，说道：「嗯，从目前来看，是挺智能的。」
「那个，所以我们这边可能需要做一份报告递交上去。当然我知道您的实验室肯定也要报告，但两种不同视角的报告更能说明情况，您觉得呢？」
听到这句话，乔源下意识地看了眼还守在旁边的简从义。
何止是两份报告，最少是三份报告才对。
当然提交的部门肯定不同。
比如有为那边肯定是提交给网信办跟工信部。
他的实验室则需要给投资的自然科学基金以及科技部提交报告。
说不定还要接受新一轮的AI科研项目风险评估。
至于简从义————
他不知道————
于是乔源干脆地答道：「没问题，这本就是你们的义务。」
说完，只觉得有些意兴阑珊的乔源便打算挂了电话，遂又问了句：「还有事吗？」
「那个，如果工信部这边需要我们把智能体的详细数据提交上去————嗯，标准库的版权毕竟属于贵实验室。
尤其是涉及到标准库的数据审核这一块，如果需要提交的话，我们需要版权方的授权。」
好吧，这就涉及到行政事务了。
「没问题，回头我让胡助理跟你联系。你们需要什么授权文档直接跟胡助理说一声就行了。
哎，徐工你也太小心了。只是安全审查用，又不涉及到什么专利纠纷，我都能理解的。」
乔源随口说了句。
「哎，没办法，我们得走正规流程。毕竟我们也有很多版权方面的考量。对了，乔博士，我有个建议。
接下来我们的工作方向是不是应该放在对新一代智能体的能力边界做出限制这块？」
「哎，已经限制了啊！」乔源有些头大。
「还得再想想办法。那暂时就这样，我先去找问题了。」
挂了电话，乔源看向简从义。
「简哥，你说的没错。乔贝恩用来做安全压力测试肯定是一把好手。它竟然还会越狱了。」
乔源跟徐哲的通话并没有瞒着简从义。而且为了方便操作电脑，乔源还有一半时间用了免提。
简从义自然已经知道刚刚发生了什么，于是很配合地问了句：「问题出在哪？」
「我也不知道啊！」
乔源茫然地答道：「有为那边没梳理清楚具体的工程漏洞到底出在哪，我现在也是云里雾里的。
其实我在数学上对框架做底层设计的时候就已经限制了这款智能体的能力边界。
流形M本来就具备几何约束的作用。所以智能体的所有行动都被限制在流形M上。
它们的演化必须满足流形上的微分方程或几何条件，按道理这足够防止智能体状态的任意发散。
而且标准库的建模本就遵循了数学上的形式公理系统。所以智能体的行为必须是可约至公理的。
更别提单个智能体的磋商必须严格遵循对应的群关系。如果状态跃迁率大于设置的阈值，投影应该就会回流————」
乔源自顾自地说着，不过当他注意到简从义的表情后，立刻意识到对方不是专业人员————
「这可能没有那个机器人三原则那么好理解。我简单给你解释一下吧。」
酝酿了片刻后，乔源这次用上了通俗语言：「这其实就是一套权重衰减机制。
标准库的设计逻辑虽然基于一个专门为智能体编写的字典。但在使用的时候，是有具体规则的。
比如在处理信息时，如果遇到没有权威可信的消息，这个信息的权重就会降低。如果胡编乱造那么惩罚就会更重。
你可以理解为这就是一套谎言惩罚机制。当然除此之外，人类社会的基本规则，也在标准库做了约束，比如最基本的法律适配。
总之按道理，任何智能体的行为跟现实偏离值太大，系统就会把它拉回到正常轨道上来。所以理论上不会出现这么大偏差的情况才对。」
简从义沉默片刻后，再次开口问道：「所以你认为还是工程落地导致的问题？」
乔源想了想，然后懊恼地摇了摇头，说道：「我也不知道。这个项目我很上心，很多代码我都亲自校验过。
基本上应该是按照我的预想推进的。不过说到工程上的问题可太复杂了，但这压根就不是短时间能够弄清楚的。」
简从义点了点头表示了解，随后安慰道：「也不用感觉挫败。说实话，对于一个全新的智能产品来说，能有这种表现你应该觉得惊喜才对。
新东西有不足才是正常的。想办法去弥补就好了。虽然这款产品目前看来不适合民用，但在特殊领域说不定还能起到特殊效果。比如我们刚才说的测试领域。」
说完，简从义少见地笑了，又跟乔源开起了玩笑。
「而且说不定跟你的理论、以及工程都无关。也许就是读了数据库里的内容，让这些智能体觉得人类人均道德水准本来不太高。
让它们认为造假这种事，根本就不叫个事情，所以直接偏离了你之前所缺省的正常值，我觉得这也是有可能的。所以都是社科领域的问题，跟你无关。」
简从义这句开玩笑的话，却让乔源的眉头顿时舒展开来。
「卧槽，简哥，你这是一语惊醒梦中人啊！我觉得还真有这种可能，你去忙吧，我分析下数据。
果然还得多跟人交流啊！这谁能想到个人的道德水准太高也可能导致出现智能体道德偏离问题简从义愣了愣，他单纯就是开个玩笑，想让乔源心情好些罢了。
不会真是这个原因吧？
所以任何拥有智能的实体都逃不开学坏比学好容易的怪圈？
那这智能体可就太真实了。简直跟人一模一样。
而且还特别符合华夏哲学。
近朱者赤不赤目前还不知道，毕竟没有实证。
但近墨者一定黑却是板上钉钉的事情了。
一时间简从义甚至觉得这个世界正在朝着一个奇怪的走向发展。
未来可能会变得很荒谬。
虽然心潮澎湃，不过他还是牢记着自己的任务，提示了句：「乔博士，这个不急一时。你还是先吃早餐吧？等会这些油条跟豆浆要凉了。」
「没事儿，你帮我端过来，我边看边吃。我跟你说简哥，如果真是因为这个原因导致的，回头我让骆学姐写报告的时候一定把你的功劳给记上。
到时候你的领导要是敢不给你记个一等功，我跟他没完！说到做到啊。回头你就把领导的办公地址告诉我，有必要了我就亲自去找他理论。」
乔源头也不擡地答道。
简从义没接这个话茬，只是默默地走到茶几前，把早餐端到了乔源的办公桌上，随后悄然离开。
走的时候还没忘把乔源的办公室大门给关上。
结果他刚走出乔源的办公室，胡峻玮便状似不经意地开了门，跟简从义打了个照面。
随后直接开口问了句：「怎么样？乔博士的人工智能体测试的初步结果如何？达到预期了吗？」
嗯，果然大家都关注着呢。
虽然两人都是助理，但分别来自不同的部门。
毕竟两人负责的服务对象虽然都一样，但性质完全不同。
虽然理论上胡峻玮行政助理的身份，更接近乔源的具体工作。
但无奈乔源跟简从义的关系更亲近些，更喜欢跟简从义交流。
当然这也是难以避免的。
毕竟简从义几乎是二十四小时日夜不休的跟着乔源，还客串了司机的身份。
人都是这样，接触得多了，只要性格能合得来，关系自然要更为亲近。
他们日常接受的训练足以保证不会跟保护对象起什么龊。
「跟乔博士对智能体的期待差距很大。但怎么说呢，技术上绝对是巨大的突破。甚至可以说又是一个历史性的成果。
但有些问题如果不能妥善解决的话，当下做民用产品肯定是不可能的。但在一些特殊场景下，也许发挥出的作用超乎想像。」
简从义的回答其实总结得很到位。但落入胡峻玮的耳中却只让这位行政助理一头雾水。
历史性的成果却跟设计者本身的期待差距很大？
不能民用，但特殊场景的作用又超乎想像？什么样的特殊场景？
于是胡峻玮干脆直接挑明地说道：「老简啊，说清楚点。咱俩就别藏着掖着了。反正我过不了多久肯定也能知道。早点报个信，我也能拿点功劳。」
简从义笑了笑，然后微微摇了摇头，说道：「那你就得从你的途径去了解消息了。
不过我可以告诉你，乔博士设计的智能体跟现在的人工智能的确不太一样，起码更先进。」
说完便直接走进了自己的办公室。
没时间跟胡峻玮废话了。他还得赶紧写报告呢。
美国，费城。
当天晚些时候，陆明远来到了袁意同的房间。
「您也接到通知了吧？包括我在内，燕北有好几位教授接到家里的电话，说是如果没有必须留在这边的需求，最好明天会议之后不要逗留，尽快回去。」
「嗯，华清这边也是一样的情况。不过我的情况特殊，明天的晚宴肯定要参加。」
没办法，作为下一届国际数学联盟的主席，肯定不可能错过会议结束后的晚宴。
「你们那边研究方向也是趋同的吧？据我所知，好几家接到消息的高校跟研究所，研究方向都是趋同的。」
陆明远再次确认了一句。
袁意同默默地点了点头。
>