第二百八十章 给老板派活儿
神医圣手小说推荐阅读：和离后，神医王妃野翻全京城、越界心动、NBA：开局满级力量，库里被我惊呆了、龙族：从西游记归来的路明非、狐说、服软、她和暗恋的大佬官宣了、人民的财产（电视剧突围原著）、和穿来的儿子上综艺后爆红了、这游戏也太真实了、鲤鱼王的精灵模拟器、轻负、印卡是游戏王的一部分
周二早晨，韩路一到办公室的时候，惊讶地发现陈建业就在门口等他。
老陈看起来昨天好像没休息好，脸上挂着两个黑眼圈，但是心情却不错，整个人挺放松的。
「韩总，您有空吗？我想占用您两分钟。」陈建业的语气挺真诚。
「好啊，进来说。」
韩路一打开门，带陈建业到沙发上坐下，给他倒了杯水。
「韩总，我是来跟您道谢的。」陈建业开口道，「我家孩子上学的事儿，沈总告诉我了，是您特意叮嘱的。」
韩路一笑了笑：「都是区里给的政策好，这是给重点人才的，你是重点人才，这是你应得的。」
这要是搁在以前，陈建业肯定就停在这不说了，大男人，感激都放在心里，放在行动上。但是他昨天已经被老婆点过了，今天就是来表忠心的，所以他硬着光秃秃的头皮说了下去。
「韩总，以後我陈建业对您，对源码科技肯定死心塌地！不离不弃！」陈建业坚定地表态。
这一段话给韩路一听笑了，怎麽听着像婚礼上的誓言呢。
「行，我信，你回去工作吧，有什麽问题及时沟通。
送走陈建业的时候，韩路一又调出他的面板看了一眼。
【陈建业】
【技术S|管理B|协作B|稳定S】
【特技：大型系统架构|AI智能体设计】
【词条：基石先驱】
霍，孩子上学的事情一推进，稳定直接提到S了。
韩路一心想，有政府支持就是不一样，员工忠诚度这块就增加了一大截，尤其有些资源是买也买不到的。
可惜我还没孩子，薅不到这些羊毛。
韩路一遗憾的摇了摇头。
仔细看看陈建业的属性，比去年入职的时候还提升了很多，让韩路一有一种玩养成游戏的成就感。
—虽然养成陈建业这个说法听起来怪怪的。
毕竟颜值也是二游中非常重要的环节，很难想像如果推出一个像陈建业这样扮相的游戏人物，会被二游玩家们骂成什麽样子。
但是陈建业的属性变化正好能证明，视界的面板虽然可以反应人的即时属性，却不能预测人的成长。
像陈建业之前养成的那种独来独往、听不进人意见的工作习惯，很大程度上是在鼎盛的工作环境下形成的，来源码科技一年之後已经改变了很多。
像御风刚做出来的时候，他是持反对意见的那一个，但是在苏念念和他谈过之後，他心态转变的很快，在公司内的AI化过程中做了不少前瞻性的探索。
所以对一个企业来说，除了能招揽人才之外，建立一套稳定的人才培养体系也很重要。
既要能发现人才，又要能留住人才，还要能培养人才，三点齐备，才是一个企业能长期成长的基石。
毕竟等到真的扩张快起来的时候，总不能所有的骨干和管理人员都靠从外部招聘，那样企业文化很快就变质了。
说到这一点，韩路一其实对姜亦心上周五开始计划的那个项目颇感兴趣，也不知道进展的怎麽样了。
正想着，刘或在外面敲了敲门。
「韩总，两分钟之後您和赵总、江工有个技术会议，现在过去吗？」
「这就来。」
会议室里，韩路一拿着一个平板，正在看L100的算子适配评估报告。
这是江松然和赵文渊最近加班加点搞出来的。
自从收购矽明的事情敲定之後，下一步的发展路线也确定了，两个人把全部的精力都放在了这个项目上，才做出了这麽一份报告。
韩路一看完之後没有说话，把平板放回桌子上，目光投向对面坐着的两个人。
江松然开着电脑，皱着眉头，屏幕上是密密麻麻的算子列表和优先级标注，这些是报告的原始数据。
赵文渊坐在他旁边，手里拿着一杯生椰拿铁，神情看着比韩路一还要放松。
今天会议的主题是讨论接下来怎麽在L100集群里进行模型训练。
说实话，这麽短的时间里能把推理跑起来，就已经让江松然震惊过一次了。
这本身是以年计的工程量，在源智一个月就做出来了。
当然了，这里面江松然也是出了大力气的。
是他把在推理阶段可以绕过的问题都绕过去了，才把工程难度降下来，让汤圆及时上线。
但是现在要做训练，不只是那些没做的工作要做，之前推理阶段逃过的课也得一一补上。
「我先说说大方向。」江松然把电脑上的内容投影到了会议室的大屏幕上，「我们可以把这个项目分成两个阶段，一个是算子的阶段，适配做完之後，先在小集群验证，只能做一些小规模的训练，不超过7B。」
「第二阶段才是用这套东西组千卡甚至万卡级的大集群，这里面涉及很多卡间通信的挑战，我们之後再说。」
江松然指了指屏幕上列出来的密密麻麻的算子，最上面的十几行标了绿，中间还有几十行是黄色的，剩下的都是红的。
绿色是正反向都做完的，黄色是只做了正向、反向用了近似值的，红色则是完全没做、用近似实现代替的。
江松然说道：「前向算子只是第一层，真正麻烦的是训练需要反向算子，还要保证数值稳定。很多算子推理的时候能用近似实现，训练不行，要实现高精度，就得一点儿一点儿抠，这是个苦力活儿。
7
说完他苦笑一声。
要是用CUDA，这个苦力活儿英伟达已经替你干好了，你只需要考虑怎麽设计训练管线、训练策略就行。
现在用矽明的L100，他们的软体团队就不用指望了，所有的活都得源智的团队做，虽然最近招来的人都有丰富的调优经验，也做好了攻坚准备，但是这种事情急不得。
活儿多不可怕，但是你不能设置不合理的预期。
的训练能力，完成汤圆1.0的训练。
虽然他没说预期多长时间做完，但是你听听这个名字，现在发布的是0.9，要优先把1.0训练完，这个任务难道还能等一年多吗？
他只能把最乐观的估计说出来：「我估计，三个月能把一阶段做完，二阶段的通信要六个月，还要花六个月做算子调优一这是最保守的估计，十五个月以後，可以尝试做训练。」
实际上做过工程的人都知道，这种估计真做起来，花的时间翻倍都不止。但他实在是说不出口，让汤圆1.0三年之後再开始训练。
0.9都发布三年了，才训练1.0，你听听这是人话吗？
江松然对韩路一坚持不用任何云服务商的决定也了解，这是对数据安全的坚持。但是咱们现在只有国产卡，或者，如果实在是等不及，要不采购点英伟达的卡？先用着，也不耽误咱们做国产化，不丢人。
这话他也没说，等着韩路一的回应。
没想到，韩路一没说话，倒是这两天一直和江松然一起准备报告的赵文渊先开了口。
「我觉得三个月太长了，一个月，应该就可以把第一阶段的基本训练链路做完了。」
江松然震惊地看着身旁的赵文渊。
老赵，你知道自己在说什麽吗？
这是训练，不是推理！
吹牛不是这麽吹的，当着韩总的面，你要把牛皮吹破了。
这下他忍不住了，恨不得上去捂老赵的嘴：「不行不行，韩总，一个月肯定不行，你看看这表里多少算子呢。」
他知道韩路一的技术强，在他加入源智之前，韩路一也在早期的算子适配工作中做过贡献。
但他可太怕韩路一对这个项目的工程量有什麽误解了。
现在源智团队里用的还是一个叫「算子打靶法」的工作方法。
这个工作方法还是当时韩路一提出来的。
所谓「算子打靶法」，就是对每一个要进行适配的算子，对标英伟达的算子，用御风来转换生成适配代码，只要达到英伟达对应60%的效率就算是达标。
这个60%是从当初的80%降下来的，为的就是让推理快速上线，牺牲一部分硬体的使用效率。
但是现在要做大模型的训练，60%就不够了，甚至80%都不够，得至少达到90%以上。
话是这麽说，效率的提升难道是一件容易事吗？
御风生成起代码来是快，但是该做的验证的活儿一点也少不了，每一个算子的每一个参数得一个个试过去，找到对应L100这个硬体设计的最优解。
如果说60%试十次能找到，80%可能得试一百次，90%可能得试一千次。
这还只是一个算子的一个参数。
所以江松然才说做适配是个苦力活。
没想到韩路一没说话，赵文渊又开口了：「韩总，一个月，您觉得行不行？」
江松然已经无语了，什麽行不行，你问老板这个，当然行，一个月之後咱们拿不出东西来怎麽办？
那是肯定拿不出来，能做出十个算子都超出预期了。
韩路一听完，没有直接回答，而是思考了一下。
江松然期待韩路一听进去自己说的话了，能意识到一个月是一个多麽不可思议的期限。
拒绝老赵，韩总，拒绝老赵啊！
「行，我试试。」在江松然默默的祈祷中，韩路一说。
江松然垂头丧气。
老赵啊老赵，你看，老板答应了吧？咱们可怎麽办啊。
韩总说他试试。
一等等，韩总说什麽？
他试试？
他试试什麽？
赵文渊完全没露出意外的神色，满意的点了点头。
老爷爷果然靠谱。
韩总说行就是行。
江松然心里还没回过味儿来，韩路一又开口了：「江工，算子适配的事，你带着团队只需要负责逻辑没问题就行，具体的参数留给我，我来找。」
江松然这才反应过来，老赵这是给老板派活儿呢！
「您——您——」江松然「您」了两声，没出话来。
他想问的是，你凭什麽觉得自己特别会调参啊？
但是这话问出来可不太好听。
赵文渊在旁边已经替他解释了：「韩总特别会读论文。」
韩路一听完，憋着笑点了点头。
好，文渊已经找到合理的解释了。
只剩下江松然还在原地风中凌乱，我单听说韩总写了早期的几个算子的实现，我不知道他要写所有的算子实现啊。
而且，调参都交给他是什麽意思啊？
这是一个人能干的活儿吗？
赵文渊在旁边看着江松然整个人僵住的样子，轻轻拍了拍他的肩膀。
有些事实接受起来是要花一些时间的。
韩路一看了看手机的时间，会议快结束了，他拍了下手：「今天先到这，下一步的计划等我们把第一阶段的工作做完之後再安排。」
然後他对赵文渊说了一句：「文渊，我有个问题单独问你，一会儿来一下我办公室。
「」
http://www.shenyishengshou.com/yt128808/49527942.html
请记住本书首发域名：www.shenyishengshou.com。神医圣手手机版阅读网址：www.shenyishengshou.com
老陈看起来昨天好像没休息好，脸上挂着两个黑眼圈，但是心情却不错，整个人挺放松的。
「韩总，您有空吗？我想占用您两分钟。」陈建业的语气挺真诚。
「好啊，进来说。」
韩路一打开门，带陈建业到沙发上坐下，给他倒了杯水。
「韩总，我是来跟您道谢的。」陈建业开口道，「我家孩子上学的事儿，沈总告诉我了，是您特意叮嘱的。」
韩路一笑了笑：「都是区里给的政策好，这是给重点人才的，你是重点人才，这是你应得的。」
这要是搁在以前，陈建业肯定就停在这不说了，大男人，感激都放在心里，放在行动上。但是他昨天已经被老婆点过了，今天就是来表忠心的，所以他硬着光秃秃的头皮说了下去。
「韩总，以後我陈建业对您，对源码科技肯定死心塌地！不离不弃！」陈建业坚定地表态。
这一段话给韩路一听笑了，怎麽听着像婚礼上的誓言呢。
「行，我信，你回去工作吧，有什麽问题及时沟通。
送走陈建业的时候，韩路一又调出他的面板看了一眼。
【陈建业】
【技术S|管理B|协作B|稳定S】
【特技：大型系统架构|AI智能体设计】
【词条：基石先驱】
霍，孩子上学的事情一推进，稳定直接提到S了。
韩路一心想，有政府支持就是不一样，员工忠诚度这块就增加了一大截，尤其有些资源是买也买不到的。
可惜我还没孩子，薅不到这些羊毛。
韩路一遗憾的摇了摇头。
仔细看看陈建业的属性，比去年入职的时候还提升了很多，让韩路一有一种玩养成游戏的成就感。
—虽然养成陈建业这个说法听起来怪怪的。
毕竟颜值也是二游中非常重要的环节，很难想像如果推出一个像陈建业这样扮相的游戏人物，会被二游玩家们骂成什麽样子。
但是陈建业的属性变化正好能证明，视界的面板虽然可以反应人的即时属性，却不能预测人的成长。
像陈建业之前养成的那种独来独往、听不进人意见的工作习惯，很大程度上是在鼎盛的工作环境下形成的，来源码科技一年之後已经改变了很多。
像御风刚做出来的时候，他是持反对意见的那一个，但是在苏念念和他谈过之後，他心态转变的很快，在公司内的AI化过程中做了不少前瞻性的探索。
所以对一个企业来说，除了能招揽人才之外，建立一套稳定的人才培养体系也很重要。
既要能发现人才，又要能留住人才，还要能培养人才，三点齐备，才是一个企业能长期成长的基石。
毕竟等到真的扩张快起来的时候，总不能所有的骨干和管理人员都靠从外部招聘，那样企业文化很快就变质了。
说到这一点，韩路一其实对姜亦心上周五开始计划的那个项目颇感兴趣，也不知道进展的怎麽样了。
正想着，刘或在外面敲了敲门。
「韩总，两分钟之後您和赵总、江工有个技术会议，现在过去吗？」
「这就来。」
会议室里，韩路一拿着一个平板，正在看L100的算子适配评估报告。
这是江松然和赵文渊最近加班加点搞出来的。
自从收购矽明的事情敲定之後，下一步的发展路线也确定了，两个人把全部的精力都放在了这个项目上，才做出了这麽一份报告。
韩路一看完之後没有说话，把平板放回桌子上，目光投向对面坐着的两个人。
江松然开着电脑，皱着眉头，屏幕上是密密麻麻的算子列表和优先级标注，这些是报告的原始数据。
赵文渊坐在他旁边，手里拿着一杯生椰拿铁，神情看着比韩路一还要放松。
今天会议的主题是讨论接下来怎麽在L100集群里进行模型训练。
说实话，这麽短的时间里能把推理跑起来，就已经让江松然震惊过一次了。
这本身是以年计的工程量，在源智一个月就做出来了。
当然了，这里面江松然也是出了大力气的。
是他把在推理阶段可以绕过的问题都绕过去了，才把工程难度降下来，让汤圆及时上线。
但是现在要做训练，不只是那些没做的工作要做，之前推理阶段逃过的课也得一一补上。
「我先说说大方向。」江松然把电脑上的内容投影到了会议室的大屏幕上，「我们可以把这个项目分成两个阶段，一个是算子的阶段，适配做完之後，先在小集群验证，只能做一些小规模的训练，不超过7B。」
「第二阶段才是用这套东西组千卡甚至万卡级的大集群，这里面涉及很多卡间通信的挑战，我们之後再说。」
江松然指了指屏幕上列出来的密密麻麻的算子，最上面的十几行标了绿，中间还有几十行是黄色的，剩下的都是红的。
绿色是正反向都做完的，黄色是只做了正向、反向用了近似值的，红色则是完全没做、用近似实现代替的。
江松然说道：「前向算子只是第一层，真正麻烦的是训练需要反向算子，还要保证数值稳定。很多算子推理的时候能用近似实现，训练不行，要实现高精度，就得一点儿一点儿抠，这是个苦力活儿。
7
说完他苦笑一声。
要是用CUDA，这个苦力活儿英伟达已经替你干好了，你只需要考虑怎麽设计训练管线、训练策略就行。
现在用矽明的L100，他们的软体团队就不用指望了，所有的活都得源智的团队做，虽然最近招来的人都有丰富的调优经验，也做好了攻坚准备，但是这种事情急不得。
活儿多不可怕，但是你不能设置不合理的预期。
的训练能力，完成汤圆1.0的训练。
虽然他没说预期多长时间做完，但是你听听这个名字，现在发布的是0.9，要优先把1.0训练完，这个任务难道还能等一年多吗？
他只能把最乐观的估计说出来：「我估计，三个月能把一阶段做完，二阶段的通信要六个月，还要花六个月做算子调优一这是最保守的估计，十五个月以後，可以尝试做训练。」
实际上做过工程的人都知道，这种估计真做起来，花的时间翻倍都不止。但他实在是说不出口，让汤圆1.0三年之後再开始训练。
0.9都发布三年了，才训练1.0，你听听这是人话吗？
江松然对韩路一坚持不用任何云服务商的决定也了解，这是对数据安全的坚持。但是咱们现在只有国产卡，或者，如果实在是等不及，要不采购点英伟达的卡？先用着，也不耽误咱们做国产化，不丢人。
这话他也没说，等着韩路一的回应。
没想到，韩路一没说话，倒是这两天一直和江松然一起准备报告的赵文渊先开了口。
「我觉得三个月太长了，一个月，应该就可以把第一阶段的基本训练链路做完了。」
江松然震惊地看着身旁的赵文渊。
老赵，你知道自己在说什麽吗？
这是训练，不是推理！
吹牛不是这麽吹的，当着韩总的面，你要把牛皮吹破了。
这下他忍不住了，恨不得上去捂老赵的嘴：「不行不行，韩总，一个月肯定不行，你看看这表里多少算子呢。」
他知道韩路一的技术强，在他加入源智之前，韩路一也在早期的算子适配工作中做过贡献。
但他可太怕韩路一对这个项目的工程量有什麽误解了。
现在源智团队里用的还是一个叫「算子打靶法」的工作方法。
这个工作方法还是当时韩路一提出来的。
所谓「算子打靶法」，就是对每一个要进行适配的算子，对标英伟达的算子，用御风来转换生成适配代码，只要达到英伟达对应60%的效率就算是达标。
这个60%是从当初的80%降下来的，为的就是让推理快速上线，牺牲一部分硬体的使用效率。
但是现在要做大模型的训练，60%就不够了，甚至80%都不够，得至少达到90%以上。
话是这麽说，效率的提升难道是一件容易事吗？
御风生成起代码来是快，但是该做的验证的活儿一点也少不了，每一个算子的每一个参数得一个个试过去，找到对应L100这个硬体设计的最优解。
如果说60%试十次能找到，80%可能得试一百次，90%可能得试一千次。
这还只是一个算子的一个参数。
所以江松然才说做适配是个苦力活。
没想到韩路一没说话，赵文渊又开口了：「韩总，一个月，您觉得行不行？」
江松然已经无语了，什麽行不行，你问老板这个，当然行，一个月之後咱们拿不出东西来怎麽办？
那是肯定拿不出来，能做出十个算子都超出预期了。
韩路一听完，没有直接回答，而是思考了一下。
江松然期待韩路一听进去自己说的话了，能意识到一个月是一个多麽不可思议的期限。
拒绝老赵，韩总，拒绝老赵啊！
「行，我试试。」在江松然默默的祈祷中，韩路一说。
江松然垂头丧气。
老赵啊老赵，你看，老板答应了吧？咱们可怎麽办啊。
韩总说他试试。
一等等，韩总说什麽？
他试试？
他试试什麽？
赵文渊完全没露出意外的神色，满意的点了点头。
老爷爷果然靠谱。
韩总说行就是行。
江松然心里还没回过味儿来，韩路一又开口了：「江工，算子适配的事，你带着团队只需要负责逻辑没问题就行，具体的参数留给我，我来找。」
江松然这才反应过来，老赵这是给老板派活儿呢！
「您——您——」江松然「您」了两声，没出话来。
他想问的是，你凭什麽觉得自己特别会调参啊？
但是这话问出来可不太好听。
赵文渊在旁边已经替他解释了：「韩总特别会读论文。」
韩路一听完，憋着笑点了点头。
好，文渊已经找到合理的解释了。
只剩下江松然还在原地风中凌乱，我单听说韩总写了早期的几个算子的实现，我不知道他要写所有的算子实现啊。
而且，调参都交给他是什麽意思啊？
这是一个人能干的活儿吗？
赵文渊在旁边看着江松然整个人僵住的样子，轻轻拍了拍他的肩膀。
有些事实接受起来是要花一些时间的。
韩路一看了看手机的时间，会议快结束了，他拍了下手：「今天先到这，下一步的计划等我们把第一阶段的工作做完之後再安排。」
然後他对赵文渊说了一句：「文渊，我有个问题单独问你，一会儿来一下我办公室。
「」
http://www.shenyishengshou.com/yt128808/49527942.html
请记住本书首发域名：www.shenyishengshou.com。神医圣手手机版阅读网址：www.shenyishengshou.com