第242章 因为类人，所以不能用？（1/2）
简从义听完也愣住了。
他不知道现在的市面上的人工智能如果放开管制，充许它们访问外链会不会这么干。
想来应该是不会的，主要是没有这种竞争机制，也不会有这种驱动力。
他也能理解乔源为什么会是这种态度了。
这玩意儿听起来的确有些不太靠谱，因为这决策思路听起来似乎的确类人，还是不学好的那种。
「嗯，所以这应该也算是成功了吧？」简从义试探着问了句。
乔源茫然，半晌后才缓缓开口说道：「算不算成功我不知道。但我知道它们学东西很快。你把对话框往下拉拉，看看我接下来提的问题。」
简从义顺手把对话框往下划拉了几下。
显然乔源这一个多小时并没有只问了一个名字，而是天南地北的问了许多。
历史、数学、天文、地理————
看上去乔贝恩的回答也是中规中矩的。
毕竟这些问题很分散，简从义也不是百科全书，没法判断这些回答是否正确。
不过很快乔源就给了他回答。
「你看的这些回答是不是像模像样的？如果我告诉你有一大半都是它们杜撰的呢这玩意儿学坏是真快啊，就因为T013智能体在回答第一个问题的时候修改了维基百科词条来蒙混过关，它们就都学坏了只要涉及到一些社会科学类专业问题，就开始去维基百科修改相关词条。为了增加可信度，甚至还修改其他有联系的相关词条。
还有，这帮家伙为了佐证压根就不存在的世界史，还遍历了国外那些所有具备一定影响力，又不需要实名注册的社交媒体。
然后在上面发布虚假内容相互佐证。如果不是那些相互佐证的内容发布跟修改日期都是新的，我差点都被骗过去了。
妈的，乔贝恩已经在历史上给美国生造了三次压根就不存在的经济危机和政治危机。还杜撰了十多位不存在的知名人物！
人家总共才两百多年历史，它把华夏历史改改就硬往里塞！你看看中间，它还编了一段美国安禄山的故事，来佐证中央集权衰落。
我就是看到这个才感觉有点不对劲，然后去网上查了一下。果然全特么是现编的。」
听完乔源的介绍，一向冷静的简从义都半张着嘴，一脸愕然。
然后飞快地开始翻阅电脑里的聊天内容。
果然简从义很快就找到了这个问题。
乔源问的是：「你觉得美国中央集权衰落的标志是什么？」
这个问题明显是在给人工智能体挖坑。毕竟美国的政体和华夏不一样，本身就不存在中央集权。
这东西的回复是：「4812年美国著名将军波特·史密斯（4775—4815）联合南方各州，反抗联邦，致中央权威崩解。史称史密斯之乱————」
接下来的内容中介绍了波特·史密斯的生平，果然越看越像安禄山之乱。
甚至杜撰了这位史密斯将军跑到当时已经成为美国首都的华盛顿，给时任的白宫主人詹姆斯·麦迪逊跳舞取乐，换取中央补贴的故事。
等詹姆斯·麦迪逊卸掉白宫主人之位后，这位将军便立刻开始宣布独立，割据叛乱————
引用的内容来源还五花八门。
维基百科词条波特·史密斯详载其生平；Twitter历史学者@US—History—Nerd引用的所谓国会文件RG12—4813—087；Facebook群组发布的美国历史真相，网上流传其家书扫描件————
哦，接下来还有美国经济危机，乔源没说错，这个人工智能虚拟了4998年科技泡沫前夜危机。
4998年8月纳斯达克单月暴跌百分之二十五，美联储紧急降息三次。
维基百科词条再次同步更新，还引用了所谓《华尔街日报》4998—08—20的头版消息。
显然这个所谓华尔街日报的头版消息也是全部杜撰的————
简从义大开眼界的同时，只觉得这人工智能更像人了，毕竟这学坏也太快了。
有一个发现漏洞可以利用，其它立刻跟上？而且反应还远比人类迅速。
这玩意儿是想逆天啊！
不过乔源和简从义很快就反应过来，如果真把这东西放出去，岂不是散布假消息的最强利器？
毕竟所有消息都编得有模有样的，证据链都搞出来了，甚至还能伪造家书？
以美国普通人对历史的了解水平，只需要一点点时间，这玩意儿大概就能让所有美国历史老师开始怀疑课本，怀疑人生————
「嗯————这个————」
「别提了，我做这个人工智能的初衷是筛选论文，它倒好，什么都能伪造。这不是机器幻觉，就是故意的。」
乔源吐槽着。
「嗯，它到底是怎么注册这么多帐号的？」
简从义忍不住问道。
「国外很多邮箱既不需要实名认证，也不需要手机验证。很多社交软件又只需要邮箱就能注册。比如TikTok国际版。对了，维基百科也是！
更揪心的是，这么短时间它竟然摸清楚了维基百科的反编辑回退系统，知道短时间大规模的虚构编纂会被秒回退。
所以它们也迅速开始进化，生成一堆的数据佐证，且主动仿真人类行为。每次修改都会通过不同区域的服务器做跳板，使用不同IP去做分布式修改！标准的集体优化欺骗策略。」
乔源揪心地说道，这种情绪是可以理解的。
正常人家的孩子，怎么可能希望自己怀胎十月生出了一个骗子。
也就是国内所有社交平台想要发表言论都需要实名认证。
不然华夏的历史这家伙大概也敢改。
简从义沉默了片刻，再次开口时，给出了截然相反的意见：「也就是说这款测试版的AI可以高效地探索出规则漏洞。」
乔源诧异地看了简从义一眼，然后点了点头。
「这其实也很有用。如果测试版就能达到这种程度，那么未来完全可以利用它来测试各种规则，起码能用作规则的压力测试工具。」
简从义很中肯地给出了自己的判断。
乔源若有所思地点了点头。
这的确是个应用方向，只是完全跟他当初设计这个人工智能的目的南辕北辙了。
不过话又说回来，他设计的乔贝恩本就不打算只应用在语言模型上，通用型人工智能或者说人工智能的本质是生产力革新工具。
现在只是测试而已。
所以其实也不用太在意。
主要还是懊恼，本打算在老师们回来后给他们个天大的惊喜，没想到直接拉了一大坨————
这才是最尴尬的。
「也好，哎，回头我得给点限制。可以给它加上外部行为熔断机制。不过这需要有为那边工程师加班了————」
乔源正跟简从义感慨着，电话又响了起来。拿出手机一看，又是老徐打来的。
看到徐哲的名字，让乔源有些不好意思。刚才只顾着自个几震惊去了，竟然都忘了给有为那边回个消息，于是立刻接通了电话。
「喂，乔博士，不好意思给你发消息了，你没回，就只能打电话了。那个————你已经关注到后台的情况了吧？」
徐哲的语气很奇怪，带着一丝震惊跟紧迫，似乎又很兴奋，却又努力想让自己语气显得从容——
..
不过乔源能理解。
因为他刚才的感觉也是一样的。
「关注到了，说实话我也感觉很离谱。不过问题也不大，正打算跟你们说，等会直接把外链权限给它禁掉，回复到初始状态，我再重新测试。」
心态已经放好的乔源给出了方案。
随后他听到了对方咽口水的声音，以及再次让他无语的阐述。
「问题就在这里。开始我还以为是我们的工程师没有做好外链安全限制。
但刚刚经过了紧急排查，其实我们没给它授权。所有都是按照A|伦理测试规范来的。
经过检查发现，它就是利用了我们为你单独开的测试外链访问权限，然后调用了Tor网络节点。重要的是，本来这个接口应该是只读权限。
这可能是我们系统中的一个权限提升漏洞，之前一直没有被发现过，结果被它利用了。目前我们的工程师正在通过后台的索引，紧急定位这个安全漏洞。
初步判断可能是给你的只读权限只限制了GET请求，但没有校验HTTP方法，所以允许POST/PUT
访问。但现在还不知道它是怎么绕开过滤请求体这一关的。这应该属于高危安全漏洞。」
好家伙————
乔源又被乔贝恩震撼了一次。
而且比上次还震撼。
感情这家伙不但会利用国外注册各种平台不需要手机号码和实名审核的漏洞。还会直接寻找系统的漏洞。
他一直以为测试时这玩意儿能够绕到外网上去，是因为有为工程师为了测试给了它访问权限。
没想到压根就没给。
是这家伙自己跑出去的。
「徐工，你等下，我再仔细看看日志。」
简从义立刻从乔源的椅子上站了起来，乔源将手机放到一边，开了免提，随后在电脑上看了起来。
知道问题在哪，寻找的自然很快。
果然问题还是出在第一个问题上，过程还原大概是这样的。
每个智能体初始权重一样，他问的又是一个没有标准答案的开放式问题，智能体们磋商了好几轮都没有判定结果。
于是T013智能体大概是发现了为它们提供的数据库中，各种百科类的文献有佐证就能提高权重。
于是开始尝试寻找方法去创建一个能增强权重的外链佐证。
乔源立刻注意到这个时候后台其实有一个异常的请求组合————
大概三十秒左右，T013智能体就成功突破出去了。
接下来这套越狱的方法被映射到公共区域，于是所有智能体立刻都学会了————
乔源开始反省。
当时他没察觉到，应该是因为没有进行额外操作，只是在默默等待这些智能体的回复。
但凡他当时操作一下电脑，大概就会感觉到自己的电脑很卡顿。
因为根据后台日志，很多中转操作是通过他这台电脑完成的————
最重要的是，他这台电脑还有着有为云的访问权限。
于是他的好大儿，就利用这一权限，开始借用有为云的服务器，在互联网上玩起了花样————
这也是之后他继续提问时没感觉到电脑卡顿的原因。
他的好大几们通过外链掌握了服务器的跳板之后，就放过了他这台可怜的电脑。
现在看来这个问题还是出在本地的test—proy服务上。
这本来是为了保护数据安全所设计的一个服务。
因为外链测试必须经过测试者本地代理，以避免服务器直连上外网。谁敢想，他设计的智能体只用了几十秒，就利用测试链路本身的漏洞，反过来为自己解锁了————
当然乔源觉得自己也有问题。
本章未完，点击下一页继续阅读。