第583章 eepeek构想书，通往ai时代的伟业（2/2）
「而国外呢？pna、谷歌这样的公司，可以不受限制地拿到最新的卡。」
「未来，他们甚至可能会组建几万张、几十万张，甚至上百万张卡的训练集群，对于他们来说，想要用这种堆栈算力的方式去堆出一个万亿级别参数的大模型，会变十分容易。」
「长此以往下来，咱们国内的a技术发展，必然会面临严重的算力瓶颈，被逐渐拉开代差。」 林叶微微点头，对梁锋的行业判断表示了充分的认可。
但就在这个时候，梁锋却忽然话锋一转，说道：「不过，局面还没有到彻底没救的程度。」
林叶的眉头微微一挑。
听到这句话，他其实已经大致猜到这位量化巨头想要说什么了。
「林教授，决定一个a大模型最终表现的，算力规模固然是一方面。」梁锋双手交叉，语气坚定，「但同样的，算法也是另外一个内核指针！」
：
「既然咱们在算力上被卡了脖子，那就在算法上去卷。」
「只要我们的算法足够优秀，能够让a在同等算力下跑出更好的效果，或者在更少的算力下跑出同等的效果，那么，即使我们未来在a的绝对综合能力上，可能比不上国外那些用几万几十万张卡硬堆出来的模型，但在性价比上面，我们绝对能够甩开他们一大截！」
「就像是咱们国内很多其他的制造业和尖端技术一样，虽然在最顶尖的性能上可能稍微差那么一丝，但凭借着性价比优势，依然足以让全世界更多的用户和企业选择我们。」
听完梁锋的这番话，林叶看着眼前这位梁老板，眼底深处不由闪过一丝赞赏，对他的认识也在此刻变更加深刻了。
atpt发布满打满算才不到一个月，美国人的算力卡禁令出台更是才半个月。
目前整个国内人工智能相关公司或许都还在因为断供而陷入算力焦虑的时候，这位梁老板，居然就已经梳理出了如此清晰且很有可行性的破局思路。 这份战略眼光，确实让人惊叹。
不过，林叶还是适时地泼了一盆冷水：「思路是很完美，但是梁总……想要实现这种程度的算法优化，难度可不低啊。」
梁锋点了点头，大方地承认了这件事：「确实很难。」
但随后，他深吸了一口气，看着林叶认真地说道：「但这，也正是今天我找林教授您的真正原因。」
「哦？」林叶眉头一挑，「洗耳恭听。」
梁锋坐直了身体，十分郑重地开口道：「我今天来的目的，就是希望能和林教授您，在a大语言模型技术上，展开深度的合作！」
说着，他从身旁那个随身携带的黑色公文包里，掏出了一份密封的文档，然后轻轻推到了林叶的面前。
「实际上，早在最近这一年的时间里，我就已经组织了公司内部搞深度学习的最内核团队，一直在拆解tanf架构，分析pt的底层技术，特别是这段时间，我们也集中所有的精力，深度研究了atpt3.5的技术表现。」
梁锋指着那份文档，沉声说道：「关于如何通过算法来大幅度降低算力成本，我们团队目前已经有了一个非常初步的数学构想，如果这个方向能跑通的话，我们或许能够在这个赛道上，实现真正的弯道超车。」
「我希望林教授能过目一下这个初步构思，如果可以的话，希望能到您的评价。」
林叶的目光落在那份文档上。
他并没有立刻伸手去拿，而是看着梁锋：「这东西，应该算是你们公司目前最高级别的商业机密了吧？就这样直接交给我看，连个保密协议都不用签？」 梁锋闻言，十分坦荡地笑了起来：「如果是拿给别人看，我或许还要担心，但是对于林教授您……」
「我自然是绝对信任的。」
林叶笑着点了点头：「梁总都把话说到这份上了，那我也就不客气了。」
接着，他伸手拿起文档，翻开了第一页。
首页上写着他们这个构想的标题。
叫做【深度求索】，英文叫做【pk】。
不错的名字。
：
林叶微微点头，而后继续往下看去。
……
办公室里安静了下来，只有林叶翻阅纸张的细微沙沙声。
随着阅读的深入，林叶的眼神逐渐发生了一丝变化。 很快，他心里就被这份粗糙，但却相当有前瞻性的初步构想给小小地惊讶了一把。
文档上提出的内核思路，赫然是一套关于m稀疏专家混合模型的深度应用构想，以及一种试图大幅度压缩注意力机制中键值缓存的潜在框架思路。
通俗点说，就是在不激活全部参数的情况下，通过路由机制让大模型在遇到特定问题时，只调用对应的专家网络去进行计算。
这样一来，不仅能把模型的总参数量堆极高，同时在推理时所需的动态算力又能极大幅度地降低。
当然，以林叶那凌驾于这个时代的眼界来看，这种仍然是以tanf架构作为底层的技术，比起动态拓扑流形认知架构来说，在底层逻辑上永远都是落后的，属于两个维度的产物。
但不可否认的是，在如今的这个时间节点，梁锋的团队就能够提出这样一套构想，确实是非常值称赞的。
这套构想，可以说在tanf架构的体系内，实现了更大的可能性。
「非常精妙的思路。」
片刻后，林叶合上文档，毫不吝啬自己的称赞：「利用m架构实现参数解耦，以此来降低算力开销，如果你们真的能够把这份构想在代码层面上完美实现，也许最终出来的效果，确实能给全世界一个巨大的惊喜。」
听到林叶的称赞，梁锋的眼神中闪过一丝难掩的激动。
能从林叶的口中听到这样的评价，这对于他们这些搞技术的人来说绝对算是一种荣誉了。
「感谢您的认可，我们公司的技术人员如果听到能到林教授的这句称赞，肯定会高兴睡不着觉的。」 但很快，梁锋深吸了一口气，将激动压了下去，表情变比刚才更加认真和肃穆。
「但是，林教授，其实我们自己心里都很清楚……单凭这项还在摸索中的技术构想，去面对未来pna那些美国公司的算力碾压，其实还远远不够。」
梁锋看着林叶，忽然提起了去年的事情：「不知道林教授还记不记，去年我们在这里第一次见面的时候，我们就曾经讨论过通过优化算法来弥补算力劣势的这个思路？」
林叶点了点头：「我自然记。」
梁锋深吸了一口气，缓缓说道：「当时，我认为只要能把算法优化到让算力需求只有国外同级别模型十分之一的程度，那就算是我们能够做到的极限了。」
「但我还记当时林教授您提到，将算力成本优化到百分之一的可能性。」
梁锋盯着林叶那双平静的眼睛，语气变诚恳起来：「我并不是数学家，我甚至到现在都不清楚，在工程上究竟要如何去搭建，才能实现那种百分之一算力成本的优势。」
「但是，凭借林教授您的能力，我愿意无条件地相信这个可能！」
「所以……」
：
梁锋忽然猛地站起身，十分正式地向林叶微微鞠了一躬：「这才是今天，我来找林教授您合作的最主要目的！」
「我希望能够和林教授合作，共同研发出那种真正能够将算力成本优化到只有十分之一，甚至是百分之一的算法技术！」 「只要您愿意答应下来，我可以提供我能提供的一切资源，不论是钱，人，还是算力！」
「包括萤火二号计算中心的一万张a100，除了一部分用来维持其他那些必要业务的算力之外，剩下的全部算力，我愿意全部拿出来，任凭您调用，用于这个模型的训练！」
梁锋的呼吸此时都变有些急促，他看着林叶，说出了内心深处最渴望的目标。
「林教授，我不为别的。」
「我只是无比迫切地希望……能够亲身参与到a时代的开创伟业中来！」
：