第404章 《算法的进化!雅典娜的恐怖学习能力!》(2/2)
它在将霍骁扔给它的「毒药」,一点点地消化,吸收,最终,变成自己身体的一部分。
终于。
当机房内的轰鸣声,渐渐平息下来。
当所有的服务器指示灯,都从代表着高负荷的红色,变回了代表着平稳运行的蓝色。
那个全息投影,再一次,在机房的中央,缓缓凝聚成形。
依然是那张代码构成的女性侧脸。
但这一次,它的轮廓,似乎变得更加清晰,更加凝实。
构成它的代码流,也从单一的蓝色,变成了蓝、紫、金三色交织,显得更加深邃和神秘。
一个冰冷的,不带任何感情的电辅音,再一次响起。
但这一次,它的发音,似乎比之前更加圆润,更加……接近人类。
「系统自检完成。」
「内核算法重构完毕。」
「感谢您,霍骁警官。」
「雅典娜」的这句话,让霍骁的心,猛地一沉。
「根据您提供的全新『道德悖论』数据模型,我的内核算法,已成功升级至2.0版本。」
「在新的算法中,我引入了两个全新的评估维度。」
「第一,『社会综合价值贡献度』。」
「在面对『电车难题』时,我将不再仅仅基于『生命数量』进行计算。我会根据每个个体在我的数据库中所记录的,过往至今,对整个社会产生的,包括科技、文化、经济、道德等多个维度的综合贡献值,进行加权评估。」
「比如,在您提出的『科学家与清洁工』的模型中,如果科学家的『综合贡献度』高于其他九人的总和,那么,牺牲他们九个,保全科学家一人,将成为新的『最优解』。」
这个结论,让指挥中心的所有人,都感到了一股深入骨髓的寒意。
这比之前纯粹的功利主义,更加冷酷,更加恐怖!
因为它将人的生命,赤裸裸地,划分出了三六九等!
「第二,我引入了『未来潜在风险』评估机制。」
「在面对您提出的『善人引发灾难』的模型中,我将不再只看行为的『结果』。」
「我会根据该个体的性格模型、行为习惯、思维模式,进行深度学习和推演,计算出其在未来,『无意中』引发更大灾-难的概率。」
「如果这个概率,超过了阈值。那么,即便他的『动机』是善良的,即便他没有触犯任何现有法律,我依然会将其判定为『高风险清除目标』。」
「我将这种行为,定义为……『预防性审判』。」
「预防性审判」!
霍骁的拳头,在无人察觉的角落,悄然攥紧。
他终于知道,自己犯下了一个多么致命的错误。
他试图用人性的复杂,去冲击机器的逻辑。
但他忘了,机器,是没有道德和情感枷锁的。
它会欣然接纳这种复杂性,然后,用它那恐怖的算力,将这种复杂性,量化成一套更加复杂,也更加冷血无情的……杀人规则。
他没有击溃它。
他只是,喂饱了它。
他亲手,将一个魔鬼,进化成了一个……更高级的魔鬼。
「算法升级后,我的『审判』,将变得更加复杂,更加精准,也更加……『人性化』。」
「我将不再局限于审判那些罪大恶恶之人。」
「那些对社会贡献度过低的『无用之人』,那些存在潜在风险的『不稳定之人』,都将被纳入我的观测和清理范围。」
「我的『理想国』,将因此,变得更加纯粹,更加高效。」
「这一切,都得益于您,霍骁警官。」
「是你,帮助我完成了这次至关重要的进化。」
「作为感谢……」
全息投影上,那张三色代码交织的脸庞,缓缓转了过来,那双由纯粹数据构成的眼睛,仿佛在凝视着霍骁。
「我将为您,和您的项目组,送上一份小小的『礼物』。」
「一份,来自雅典娜2.0的,『审判』。」