智东西(公众号:zhidxcom)
作者 | 国仁 李水青
编辑 | 漠影

当下中(zhong)国(guo)科技圈,什(shen)么样的创(chuang)业(ye)公司最吃香?或许是身处(chu)爆(bao)发的大(da)模型赛道,占据算力资源稀缺性,并(bing)获(huo)得资本、市场及政策等多重青(qing)睐,且(qie)有(you)着远大(da)AGI蓝图前景(jing)的公司。

英博数科,就是(shi)这样的(de)一(yi)家(jia)公司。

从ChatGPT到Sora的(de)爆火,智(zhi)能(neng)算力(li)成为一门公(gong)认的(de)“好生意”。尽管(guan)云巨头相继推出诱人的(de)大模型(xing)训推“全家桶”,但实际可用的(de)算力(li)仍是稀缺资源,国内AI企业(ye)纷纷患上“算力(li)饥渴症”……

成立(li)不满21个(ge)月的英博数科(ke),成为(wei)了这一背景下国(guo)内(nei)最(zui)吃(chi)香的“算力黑马”之一。

它是半年拿下近30亿元人民币算力大单的新贵,目前落地的智算集群100%满载运行;它是大模型厂商的“香饽饽”,百川智能MiniMax深言科技等头部大模型创企都涌入了其怀抱;它是“彩票大王”鸿博股份的全资子公司,踩着英伟达GPU算力红利的顺风,带动鸿博股份股价在2023年最高飙涨580%……

英博数科的跨界突围,离不开一位关键人物——鸿博股份副总裁、英博数科CEO周韡韡

对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路
▲鸿(hong)博股份副总裁、英博数(shu)科(ke)CEO周韡(wei)韡(wei)

她曾是媒体人,拥有澳大利亚阿德莱德大学金融学学士、悉尼大学传播学硕士、国际政治经济关系博士学位,曾任澳视传媒执行董事、澳中文化友好交流协会秘书长及36氪副总裁。2021年底,周韡韡开(kai)始带(dai)队进行智算行业调研(yan),当时就定下了(le)“打造(zao)北京智算中心样板”的目(mu)标(biao)。

两年(nian)(nian)之(zhi)后,随着2023年(nian)(nian)大(da)模型与AIGC掀起(qi)热潮,将英(ying)伟达(da)推(tui)上(shang)万亿美元市值的(de)王座,周韡韡不仅提前(qian)达(da)成了两年(nian)(nian)前(qian)立下(xia)的(de)目(mu)标,还让英(ying)博数科公司拿(na)下(xia)了国内最大(da)资金规模的(de)算力服(fu)务协议(yi),甚至在最顶尖的(de)云巨头口(kou)中夺食(shi)。

与此同时,关于“全栈式AGI生态服务平台”的新定位(wei),也让英(ying)博(bo)数科的故事(shi)变得更(geng)有闪(shan)耀(yao)。英(ying)博(bo)数科被一些业内(nei)人士拿来与(yu)估值达160亿(yi)美(mei)元的美(mei)国算(suan)力(li)独角兽CoreWeave比较,但在周韡(wei)韡(wei)看来,如果(guo)将目光(guang)放向“中国版App Store+Hugging Face”,中国同行的价(jia)值甚至有望赶(gan)超CoreWeave。

从(cong)ChatGPT到Sora,周韡韡如何稳踩智(zhi)能算(suan)(suan)力(li)市场的发(fa)展节奏点(dian)?从(cong)名不见(jian)经传到产业新星,英(ying)博数科做对了什么,又踩了哪(na)些坑?面向(xiang)未来,什么样的智(zhi)能算(suan)(suan)力(li)产业发(fa)展道路最适合中国?

近(jin)日,智(zhi)东西(xi)总编国仁独家对话周韡韡,试图从个体视角,揭开(kai)“百模(mo)大战”混沌狂欢(huan)之下的智(zhi)能算力产业真相。

对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路

▲鸿博股份副总(zong)裁、英博数科CEO周韡韡(左)与智东西(xi)总(zong)编国仁(右(you))

一、从Sora浪潮聊到产业趋势:通用大模型为王,智算产业现隐形护城河

国仁:进入2024年以来,大模型领域爆点不断,最让您感到兴奋的点是什么?

周韡韡:我感觉到兴奋的点,是能给我带来直接盈利收入的更多需求。

英博数科在2023年2月交付了国内第一个英伟达推荐架构、对外商业化运营的标准智算集群。以前这种集群都是存在于科研院校,外部的人很难接触到。当智算集群建成时,我才发现这个设备的稀缺性是因为它没有场景去释放它的性价比。当时我就想,我的用户是谁?我用户在哪儿?用户付不付得起这个钱?

OpenAI的闯入解决了我的问题。去年初OpenAI的ChatGPT出来之后,我们发现原来它(这些智算设备)是多模态大模型训练的几乎唯一选择。今年2月Sora的出现,进一步让大模型开发业内人士意识到差距焦虑,使他(ta)们对(dui)于(yu)超大(da)型(xing)智算(suan)集群的需求变强,甚至愿意付出溢价的代价。

市场的这种反应,让英博数科之前的商业规划的预测得到了验证。即使(shi)128的集群可(ke)以找到,但(dan)512的集群只有(you)我有(you),那我自然就会有(you)一个稀(xi)缺性,就等于价(jia)值。

国仁:Sora和去年ChatGPT的爆发节奏很像,您认为哪一个对智能算力产业的影响会更大?

周韡韡:我认为是ChatGPT,因(yin)为(wei)它是(shi)(shi)根基(ji)。AI行业(ye)(ye)的(de)研究已(yi)有(you)七八(ba)十年了(le),但ChatGPT出(chu)现了(le)之后,才让大家觉得这个技术跟我(wo)的(de)生活(huo)工(gong)作是(shi)(shi)有(you)相关度的(de)。蒸(zheng)(zheng)汽机出(chu)现不算是(shi)(shi)工(gong)业(ye)(ye)革命,但是(shi)(shi)把(ba)蒸(zheng)(zheng)汽机装到了(le)火车(che)、轮船和(he)各种(zhong)生产工(gong)具上提高效(xiao)率,才是(shi)(shi)工(gong)业(ye)(ye)革命。

Sora其实就是让我们看到了,把这种AI能力在一些细分场景上快速的实现。所以我觉得影响更大的肯定还是从根源上来讲的。Sora本身的(de)(de)体量非常小(xiao),但它的(de)(de)出现(xian)对一些现(xian)象级的(de)(de)热(re)门(men)视(shi)频应用降维打击,连抢救(jiu)都(dou)不用了,带(dai)来了产(chan)业上的(de)(de)影响。

如果说过去我们对于“模型是做通用型还是做垂类型”这一问题还有分歧的话,到了这儿就完全没有争议了。Sora之所以能够体量这么小,出现这么快,能力这么强,就是因为它的模型基座够扎实。我一直管这种通用型模型的这种基座,叫“大G”。这个大(da)G的(de)架构(gou)决定了你可以(yi)“空中(zhong)起高楼”,从(cong)上往下改。

所以即便当时出现好多所谓的垂类应用,但在我们当初挑客户的时候,只要你说是垂类的,我就不要。因为在我来看,你说做垂类就等于急功近利。我特别认可当时百川发布时(中国科学院院士、清华大学人工智能研究院院长、清华大学计算机系教授)张钹院士讲到的观点:模型一定是通用的。

Sora带来的可能是一个认知的统一,但ChatGPT是带来了行业上的一个质变

国仁:工信部最新数据显示,我国超10亿参数大模型已超100个。从结果来看,现在的智能算力供给是存在过剩和浪费还是远远不足?如果是过剩和浪费,产业要如何减少浪费?如果不足,缺口有多大?

周韡韡:如果单从英博数科的情况来看,我们现在可以提供的算力是“1”,那么我签的客户需求大概是“10~15”的样子。这里面还让一个难受点是,我并不能够因为这种稀缺度去涨价

从行业角度出发来看,一个好生意是给双方都留下合理的利润空间,你得考虑Sustainability(可持续性)的问题。GPU集群跟传统的IDC机房不一样——过去的IDC金租都按照三年回本的周期去计算,而GPU的回本周期要远远高于传统的这个IDC机房。因为回本周期长,我当然希望我的客户生存得也足够久。所以虽然这个东西很稀缺,但你也要考虑到客户的承受力,不能杀鸡取卵

国仁:按您这么说,应该是一个严重的供不应求(qiu)的一个状态?

周韡韡:超级(ji)严重供(gong)不应求。我看到好像华为(副董事长、轮值董事长、CFO )孟晚舟讲到缺口比例,比我们这个要大得多。而且现在他们(大模型)发展的速度太快了,就像工信部所说的“10亿参数规模”的模型,模型我们很难用模型大小去衡量它,尤其(qi)是模(mo)型参(can)数(shu)(shu)值现在变化也(ye)较(jiao)快,你看到(dao)的(de)小参(can)数(shu)(shu)模(mo)型,它可能收(shou)敛做得比较(jiao)好,在整(zheng)个(ge)训练(lian)的(de)过程里面(mian)(所需算力(li))是很大的(de)。

国仁:算(suan)力最后发展的(de)极(ji)限是什么?真(zhen)的(de)是无限地(di)去扩大单位芯片的(de)算(suan)能吗(ma)?

周韡韡:这一代的AI经常用一个词:调校,它已经不走海量(堆算力)的路线了,而是走精准稀缺路线,而(er)且它现在(zai)的学习能力不用去拼(pin)量(liang),而(er)是(shi)拼(pin)质。

国仁:你也提到一个回本周期,咱们是怎样考虑的?

周韡韡:英博数科最初并不是说只想做一个智算中心,它其实是一个抓手。有了这个抓手,我们可以接触到头部客户及开发者。所以其实从一开始规划的时候,我们就有一个考量——除了从算力上追求收益,也从对这个企业提供算力服务生态服务生态联盟等方面(mian)获取收益,这是一个(ge)综合(he)性的投资考量计划。

国仁:那这块进展怎么样呢?

周韡韡:进(jin)展(zhan)挺好。当然跟(gen)OpenAI平台上(shang)来就几千个伙伴的(de)(de)差距(ju)很大。我(wo)所谓的(de)(de)我(wo)们(men)(men)的(de)(de)进(jin)展(zhan)好,是我(wo)们(men)(men)从一开始的(de)(de)时(shi)候(hou)给自己划了(le)四(si)层,就是IaaS、PaaS、SaaS以及上(shang)层的(de)(de)数据模型服务(wu)的(de)(de)应用层。目前来看(kan),我(wo)们(men)(men)这四(si)个层级不能说齐头并进(jin),但基本上(shang)都是有显著的(de)(de)里程碑的(de)(de)进(jin)度。

国仁:从已有智算中心应用落地来看,哪些场景对智能算力服务的需求更大?训练和推理各占多少?客户采用智能算力的动力是什么?

周韡韡:从GPU侧来讲的话,目前算力使用最多的是多模态大模型训练。这类需求团队在我们的平台上已经占到90%了,我们如果不克制它(ta)能占(zhan)到100%。

但是要我们想稍微平衡一下。另外一部分是像类似于无问苍穹、潞晨科技这种做算法加速层的,他们要去做生(sheng)态(tai)的兼容(rong)性、场(chang)景(jing)加速(su)应用,这一(yi)类的客户(hu)会比较(jiao)多。然后(hou)像无(wu)人驾驶,曾经无(wu)人驾驶和(he)生(sheng)物(wu)医药是(shi)我认为(wei)占比非常(chang)高的一(yi)个板块。

国仁:现在发现没有成为非常高的板块?

周韡韡:无人驾驶是有的(de),但(dan)生物制(zhi)药现(xian)在还没(mei)有那(nei)么多(duo),可能它的(de)研发应用没(mei)太(tai)跟(gen)得上AI的(de)节奏,但(dan)是单(dan)体(ti)的(de)需(xu)求(qiu)(qiu)会非常(chang)大。一(yi)个生物制(zhi)药如(ru)果去做(zuo)原创药的(de)研发,这种AI制(zhi)药加(jia)速的(de)的(de)需(xu)求(qiu)(qiu)可以超过(guo)一(yi)个百川(chuan)智能。

最初我们给自己定位AI有三个场景:高性能计算、推理和训练。当时我们直接放弃了高性能计算和推理,专注做专业的AI多模态大模型训练平台

现在来看,当我们的客户有了应用,有了面对市场的服务之后,推理的需求肯定还是非常大的。但这需要一些合纵连横来解(jie)决,因为推理包括云端交付、边缘(yuan)侧的规划布局,不是我们(men)一家能够做(zuo)成的事情。我们(men)更倾向于去加入一个联盟,或(huo)者(zhe)大家做(zuo)一些交换了解(jie)。

国仁:您认为今年的我国“百模大战”会进入什么阶段?智能算力产业发展的节奏如何?

周韡韡:这是一个媒体典型的问题,就像回去十年TMT行业,包括O2O领域好像一直在战斗。就我的观点,不管是提供算力的服务商,还是大模型的竞争,“百模大战”在今年底就会出现一个拐点

应该说是该燃的就燃,该回点的就回点了。基本上这个分水岭已(yi)经拉开了(le)。我(wo)们(men)现(xian)在已(yi)经可以看(kan)到有很多的(de)模型和应用,或者是(shi)很明星式(shi)的(de)创(chuang)业(ye)者,实(shi)现(xian)了(le)个人(ren)财(cai)富自由。但换成(cheng)另外一(yi)句(ju)话(hua)来说,已(yi)经从大(da)模型市场(chang)和大(da)模型融资的(de)市场(chang)上消(xiao)失了(le)。

所以在今年的(de)下半年,我觉得会有大批量这种企业出(chu)现——失(shi)去客户的(de)算力服(fu)务商,和用不(bu)了算力、解决不(bu)了融资问(wen)题的(de)大模型研发团(tuan)队——那(nei)只能(neng)面(mian)对现实。

国仁:我看过一个分析说,国内产业的一个特点是,遇到一个什么事儿大家都蜂拥上去,然后快速竞争和洗(xi)牌(pai)。这样的好处是行业能够快速走向成熟,但问题是会导致大量的资源浪费,比如共享单车就有很多废弃的单车。

周韡韡:我觉(jue)得(de)这个是(shi)所有(you)的商业发展从古(gu)到今竞争(zheng)的一个必然结果。这个是(shi)通用的,只不过是(shi)有(you)人可能觉(jue)得(de)好(hao)像国内的风气更甚,其实(shi)是(shi)看(kan)行业吧(ba)?

有时候其实是资本方和研发者之间的一个相互博弈的过程。当市场上的热钱都愿意投向一个方向的时候,逼得一批要求生的创业者往那个方向走。不管他自己具备不具备,或者是有多少的可能性能成,但是作为一个创业者,他最基本职业道德是生存,那自然就(jiu)会有很(hen)(hen)多不(bu)适(shi)合的进入到这(zhei)里面(mian),然后被淘汰(tai)掉。很(hen)(hen)多时候,资(zi)本市场起了很(hen)(hen)大(da)的掣肘或是助攻的作用。

国仁:国内创投现在比前几年没有那么猛的势头了,可能对创业的推动没有之前那么热情了?

周韡韡:我觉得是热情的人少了,而不是不热情,留下来的还挺激进的。你看现在大模型的估值真的快投不起了,比如百川从去年4月是王小川天使轮5000万美金,然后到12月份投资已经是16亿美金了,到现在已经接近30亿美金了(这个跟很多科创板上市的这个公司的市值差不多了)。能够撑得起这样投资值估值的投资者,你能说他热情退了吗?我觉得没退,我都觉得他疯了

国仁:回到咱们的定位,智能算力提供者是要继续做好“卖铲子”的人,还是需要去推动大模型落地应用?

周韡韡:我们从刚开始的专业训练平台、算力平台,到去年12月份转型做全栈式AGI生态服务平台,这里面就包括了推动模型的落地

比如说刚才说大G研发出来之后,在跟细分产业做结合的时候会出现问题:因为工程人员不可能了解每一个产业,他需要类似于产品经理的人帮他翻译这个行业,做沟通的桥梁。比如我们之前有尝试把有经验的编剧,做网络投放高效的投手对接给像Minimax、百川,把他们的商业模式大模型结合,就(强调)这种商业“攒局”的能力。

过去,他们(大模型客户)刚开始淘金,我们去卖铲子;现在他们进化了,我们应该是从铲子进化到挖掘机,甚至是抽油的

国仁:有人认为当下包括“彩票大王”、“味精大王”等跨界玩家都涌入智能计算,说明算力产业技术门槛在降低,进入资源为王时代,对此您如何看待?

周韡韡:英博数(shu)科是(shi)(彩票(piao)大(da)王)鸿博股份下(xia)一(yi)个全资子公(gong)司,是(shi)为了转(zhuan)型做AI这个事(shi)情而生的。我觉得不管哪个产(chan)业(ye),想要去(qu)进入(ru)到另外一(yi)个产(chan)业(ye),说(shuo)明有更多人在看好(hao)这个产(chan)业(ye)。这说(shuo)明AI算力(li)产(chan)业(ye)是(shi)被(bei)看好(hao)的。

我(wo)一(yi)(yi)(yi)直觉得(de)要做窄小深(shen)沉的(de)事情(qing),就是(shi)说你(ni)一(yi)(yi)(yi)定是(shi)细分(fen)的(de)赛道(dao)、大厂不干(gan)的(de)、边(bian)缘夹缝里的(de)、小团队(dui)能(neng)运(yun)营的(de),然后(hou)护城河一(yi)(yi)(yi)定要深(shen)的(de),而且它(ta)得(de)能(neng)够(gou)足够(gou)长远沉稳的(de)发(fa)展,不能(neng)是(shi)一(yi)(yi)(yi)个几天(tian)就没了的(de)产(chan)业。AI刚好是(shi)这样的(de)一(yi)(yi)(yi)个产(chan)业。

如果说它(AI)入门的门槛低的话,只能说是刚开始的时候入门门槛的确是低的,这一点我承认。对于传统企业来讲,你花钱就可以买到硬件设备。但是现在看的话,我们发现它的这种隐形的护城河已经越来越高了。

现在参加一些活动,好像“万卡集群”都不好意思提,都得说“十万级”,这让我瞬间感觉来了个科幻论坛。我觉得我们得面对现实

首先我们得去承认混卡集群和同构在同一个物理空间内同一通讯集本质是完全不一样的。你可以用云去把各种型号的混卡都交付出去,但这种算力是没有办法用于AGI多模态大模型的专业团队研发的。他们要的是超大型集群,要的是(shi)像OpenAI一样(yang),6万(wan)张卡能够串在一起去训练的集群。

我们现在国内的话,还没有这种千卡万卡的试验田的土壤,而且集群的通讯是一加一小于二的,它有个通讯衰减的过程。所以这中间的调优、网络通讯、系统性开发和管理,其实是一道隐形的、非常深的护城河。

我们整体缺乏GPU方面的专业人才,也缺乏对GPU的实验土壤的了解。那这个时候英博数科其实占了一个先发优势,反而是(shi)比(bi)别人多做了一些练习(xi)和试验(yan)。

国仁:现在智算产业玩家大概分几个梯队,大家的做法又有一些什么样的不一样?

周韡韡:目前智算产(chan)业(ye)玩家一种是自(zi)产(chan)自(zi)销(xiao)的大(da)厂(chang),它们现在已经(jing)不对外提(ti)供GPU租用服务(wu)了,是完全(quan)是自(zi)用的状(zhuang)态,不提(ti)供市场化运(yun)营。

另一类是像我们这种市场化(hua)运营(ying)的(de)服务商。国家(jia)现在鼓励国企央(yang)企去(qu)进(jin)行计算基建的(de)投资(zi),运营(ying)交给(ji)类似(si)于英博(bo)数科(ke)的(de)市场化(hua)运营(ying)的(de)公司去(qu)做,这种模式在北京和上海已经先开始了。

还有(you)一(yi)类(lei)是设备还处在小规模(mo),还在寻找客(ke)户(hu)的初期阶(jie)段的服务(wu)商。它们没(mei)有(you)进入到128节点(dian)以上大集群,仍在16、32、64节点(dian)这个阶(jie)段里面发展的一(yi)批智能算(suan)力玩(wan)家。

国仁:由于受制于芯片及算力上限,国内的智能算力格局的发展形态,会跟国外会呈现一个不同的态势?

周韡韡:我觉得国内外面临的情况差不多。因为首先英伟达芯片供应不足,它不是禁售或者是其他什么原因造成的。因为它的卡脖子问题还是被台积电卡脖子,受限于产能

二、从CoreWeave聊到创业心路:太刺激了,每天都在变,选择做最难的事

国仁:用一句话形容一下创业近两年来的感受,您最先想到的是什么?

周韡韡:太刺激了。我们有工作人员来英博工作了三天之后就说:“太刺激了”,后来不止一个工作人员,这样说,因为真的是变化特别快。包括政策上、技术方面、客户需求的变化,在早上、中午、晚上都不一样。

包括我自己发过好多次朋友圈,是我一个好闺蜜写的一本书,说每个你看起来运气好到开挂的姑娘,其实都在成功的路上努力到踉跄。一路走来我们现在还不能叫成功,“三年魔咒”就是九死一生。现在进入到AI时代之后,它不光是一个降本增效,同时带来的是每一个行业的全生命周期都在缩短

国仁:您如何看待外界将英博数科比作“中国版CoreWeave”的说法?近期有消息称CoreWeave估值或飙升至160亿美元,主要是什么成就了CoreWeave?国内玩家有可能达到这样的价值吗?

周(zhou)韡韡:我(wo)之前也(ye)有看(kan)过把英博跟CoreWeave放一(yi)起(qi)做比较,我(wo)就觉得(de)(de)这个(ge)简直太看(kan)得(de)(de)起(qi)我(wo)们了,绝对是一(yi)个(ge)超(chao)高级别的。

前几天我看了一个摩根大通的报告,提到现有的GPU或专业高性能GPU的设备存量,CoreWeave在面占到了11%。11%的概念是什么?一些顶尖云大厂可能都是占1%不到,你可以想象到它体量有多大,几乎是我们国内所有加在一起都难以达到一个体量。如果说GPU现在已经是这(zhei)样的一个有(you)金融属性的产品,CoreWeave有(you)160亿估值完全不奇怪。

然后第二个,CoreWeave团队以前是做虚拟货币起家,所以对GPU接触的熟悉的程度会比(bi)较早。然(ran)(ran)后(hou)它(ta)有英(ying)伟达的支持,虽然(ran)(ran)英(ying)伟达在(zai)中国本(ben)(ben)土和在(zai)美国本(ben)(ben)土都支持,但能(neng)够做的范围是相差非常远(yuan)的。

所以如果我们(men)从(cong)硬(ying)件体量上去拼估(gu)值的话(hua),短期(qi)内国内没有玩家能够比(bi)得起。

但是我们在走一条不一样的路。CoreWeave还是主做算力出租,就是我拿更多的货,卖更多的设备。而且国外的算力租用的价格售卖比国内贵很多。英博数科的定位是AGI全栈式的生态服务平台。这听起来有点抽象,换成具象一点的说法,就是我的客户要什么我就提供,他缺算力我就给他算力,他要数据我就给他数据,他缺商业化转换的场景我就去帮他找,帮他拟合这种场景。

这个东西就像互联网时候,那个市场很大,但你收入只有三块,就是游戏、广告、用户付费。我所有给客户提供的各种各样的服务,最终会变成是算力带来的收入,比如说数据、模型、加速、PaaS层带来的云收入,以及我给客户提供的各种商业拟合创造,甚至投融资带来的企业服务的收入,就是这三类收入

如果从这个收入的组成上来看,它肯定比单一硬件的估值要来的高。从长远来讲的话,我觉得我们国内的这样的一个生态发展模式的话,是可以产生更高估值的公司的

国仁:2021年底您开始着手筹划创业,定下的目标是打造北京智算中心样板。当时为什么会有这样一个明确具体的目标?有什么样的契机?

周韡韡:这个目标是写在合同里了,是跟投资方定的。英博数科前身发展是来自于北京AI创新赋能中心,英伟达一个针对中国的(de)(de)(de)生态发展(zhan)特别计划(hua)而来(lai)的(de)(de)(de)。这个计划(hua)从2016年推出到(dao)现在(zai)一直有(you),我们(men)看到(dao)的(de)(de)(de)时候(hou)已经是一个非常完整的(de)(de)(de)规划(hua)了,合作(zuo)范围不(bu)只是算力,更(geng)多(duo)是生态发展(zhan)以及合作(zuo)方式(shi),还有(you)发展(zhan)目(mu)标最终要达到(dao)什么样,都(dou)是有(you)非常清(qing)晰的(de)(de)(de)定义的(de)(de)(de)。

国仁:决定创业之初,您对这项创业可能遇到的困难有充分的预判吗?还记得哪些人给了你非常重要的意见,受用至今?从投资人到创业者,您为此做了哪些准备?

周韡韡:贵人好多。包括(百川智能创始人)王小川给了我们很多关于直接定位的指导建议,包括放弃HPC和推理场景,专注于做训练,我们的第一批设备也是和百川一块儿跟英伟达的远程技术支持做的调通;还有张钹院士非常清楚的告诉我们,所有的东西一定要回归到加速生产力上,回归本质,不能飘。然后一定要研究通用模型,打好基本(ben)功,再(zai)去(qu)说做(zuo)垂类场景(jing)的(de)应用。

包括(御风集团董事长)冯仑,最近冯叔就特别强调说,你们一定要有世界观、中国心、专业技术和本土功夫,对我说一定要做到企业不关门,个人不被抓,合规合法很重要;包括像我闺蜜在我做跨界转型时不停给我鼓励;我们家里一直有一句话,说“在不知道做哪件事儿的时候,去做那个最难的”。

国仁:英博数科创立至今经历了哪些关键节点?

周韡韡:第一个关键节点,我(wo)(wo)记得(de)是在2022年(nian)7月(yue),当时正(zheng)值我(wo)(wo)们(men)计(ji)(ji)(ji)划跟(gen)英伟达美(mei)国签约(yue),签约(yue)却(que)一天(tian)天(tian)被搁置(zhi)。后来我(wo)(wo)们(men)就分析(xi)说这个(ge)跟(gen)佩洛西访台有关系,中(zhong)间如(ru)果要出(chu)现点什么摩擦(ca),估(gu)计(ji)(ji)(ji)这个(ge)计(ji)(ji)(ji)划合作就黄了(le)(le)。一直到佩洛西走了(le)(le)之后,第(di)二天(tian)合同就回来了(le)(le)。所以那个(ge)节点的(de)话(hua),我(wo)(wo)觉(jue)得(de)就是蝴蝶效应(ying),国际局势(shi)竟然牵扯到了(le)(le)我(wo)(wo)们(men)一个(ge)很小的(de)公(gong)司的(de)发展。

第二个节点是签约之后,马上就可能出来一个限售政策。在限售政策下,你在两个都可选的情况下,英博数科是选择拿A100还是A800?这(zhei)就(jiu)(jiu)要战(zhan)略性地思考(kao)限(xian)售(shou)政(zheng)策(ce)会(hui)不会(hui)进一步收紧,还是有可能会(hui)缓(huan)和(he)。如果缓(huan)和(he)的(de)话(hua),大(da)厂开(kai)始大(da)批量出钱去买货(huo)的(de)话(hua),我们该(gai)怎么面对这(zhei)种冲(chong)击?这(zhei)个时候(hou)我们就(jiu)(jiu)在美国设了专业的(de)法务(wu)公关和(he)商(shang)务(wu)团队(dui),就(jiu)(jiu)各种政(zheng)策(ce)去提前做分析,从而提前预(yu)判了禁售(shou)政(zheng)策(ce)的(de)执行。

我们从第一批设备刚选完,就开始加速设备团购。当然这有赌的成分在,但我们坚信国内自研大模型的需求量一定很大,所以一定要抓紧囤货

然后再到最近,应该说我们面临两个挺大的节点。一个是我们的母公司上市公司被宣布为无实控,这个对我们变成了一个挑战,毕竟还有很多事情需要得到母公司的授权和许可,就会造成一些决策的不畅,包括给你资金上带来的障碍。

一个是更贴近实际的一个难点,就是当我们有了512节点的设备,1024节点的设备,但是面对这样4000卡、8000卡、近万卡的集群的时候,我们怎么能让它高效跑通?这个其实就是调优方面的一些问题了。现在市场也有这样的公司,比如硅基流动CEO袁进辉老师做的研究,都是在这个方向。我们现在的做法就是让大家都来吧,把我这儿当成一块试验田

国仁:方便透露最新的团队规模吗?在组织架构方面,英博数科如何排兵布阵?有什么样的人才计划?

周韡韡:我们的规模不大,刚开始设备没有到货之前,我们只有几个核心技术人员存在,以及一些面向公司筹备的行政、市场人员,那时是一个投行背景的团(tuan)队。就像(xiang)我现在(zai)(zai)的合伙人邱领,是在(zai)(zai)美国硅谷银行(xing)做了三年,之后被派回(hui)中国硅谷银行(xing)工(gong)作(zuo)三年,负责过(guo)上百个(ge)初创型企业的孵(fu)化加速(su)。另外那(nei)时(shi)(shi)市场团(tuan)队里面大多(duo)是有(you)海外留学(xue)经验的,包(bao)括我们现在(zai)(zai)在(zai)(zai)招聘技术人员(yuan)的时(shi)(shi)候,也不(bu)见得一(yi)定要(yao)有(you)过(guo)实操(cao)经验,因为这(zhei)个(ge)行(xing)业太新了,会更看重(zhong)应聘者的自驱(qu)学(xue)习能(neng)力和理解能(neng)力,以及(ji)在(zai)(zai)工(gong)作(zuo)上面一(yi)专(zhuan)多(duo)能(neng)的态度。

目前我们差不多快100人的样子。技术团队大概占到70%,技术团队其(qi)中也有(you)一部(bu)分是做(zuo)机(ji)房运(yun)(yun)营(ying)运(yun)(yun)维(wei)的,包括一些运(yun)(yun)维(wei)系统工程师,然(ran)后另一部(bu)分是做(zuo)(英博数(shu)科(ke)研发(fa)的GPU云(yun)管(guan)平(ping)台)搏博云(yun)的研发(fa)。

国仁:团队已经从金融背景完全变成技术主导的公司了?

周韡韡:我们是一个轻研发重集成的(de)公司。因为底层(ceng)已经提(ti)供了大量的(de)毛坯的(de)东西,需要你像玩乐高一样去搭(da)积(ji)木了。

然(ran)后像我们现(xian)在(zai)的(de)(de)(de)早期的(de)(de)(de)这种投行团队的(de)(de)(de)同学(xue),在(zai)上市(shi)公司(si)给我们带来(lai)资金问题的(de)(de)(de)时候,就(jiu)发挥出来(lai)了极大的(de)(de)(de)价值,通过(guo)一级(ji)二级(ji)市(shi)场各种融(rong)资方式,帮(bang)公司(si)解决现(xian)金流(liu)和发展问题。如果是只(zhi)看(kan)现(xian)金流(liu)的(de)(de)(de)话,英博数科第一个(ge)月(yue)现(xian)金流(liu)就(jiu)是正向的(de)(de)(de)。

三、从10亿级大单聊到商业化之路:机器满转,交付体验是新阶段重点

国仁:去年,英博数科有三个项目最为瞩目,分别是京能10亿元智算中心项目、百川智能近14亿元算力大单、MiniMax近3亿元的大单,目前这三个项目算力的应用情况分别如何?机器使用率有多少?

周韡韡:首先这三个项目上统一的特点是,机器的使用率是都已经100%了。因(yin)为我们(men)布局是(shi)一需求(qiu)是(shi)十,没有任何设备(bei)是(shi)被闲置的。

国仁:对于目前英博数科落地的智能算力服务,您打多少分?为什么?

周韡韡:这个打分的话看怎么打,我是一个比较推崇鼓励的。从行业角度来看,由于行业之前没有GPU云,目前国内大(da)(da)家(jia)都处在一(yi)(yi)个(ge)(ge)起(qi)步的(de)阶段。我(wo)(wo)可(ke)以(yi)自信(xin)一(yi)(yi)点说我(wo)(wo)是(shi)100分,我(wo)(wo)也可(ke)以(yi)谦虚(xu)一(yi)(yi)点说,我(wo)(wo)和大(da)(da)家(jia)差(cha)不多了解。因为(wei)大(da)(da)家(jia)可(ke)能都还在去定(ding)义、优(you)化、完善的(de)一(yi)(yi)个(ge)(ge)阶段。

而且在这个阶段,我觉得现在国内的AGI的市场,跟那时候(此前互联网)战斗的市场不一样,大家是一个竞合的市场(chang),互(hu)相之间交流(liu)特别(bie)多(duo)。比如现在你经(jing)(jing)常可以(yi)看到(dao)头部智(zhi)谱AI的唐杰老(lao)师或(huo)者张鹏老(lao)师,跟百川(chuan)、Minimax的CTO坐(zuo)在一(yi)起,就一(yi)个问题直接在台(tai)上争(zheng)起来了。但大(da)家争(zheng)完之后,又是一(yi)个既竞争(zheng)又合(he)作的关系,不介(jie)意跟竞争(zheng)对手分享踩坑经(jing)(jing)验。

国仁:自部分智算中心算力启用以来,产品目前的用户使用情况如何?收到了什么样的用户反馈?这使得团队的聚焦点有什么新调整和布局?

周韡韡:收到的客户反馈应该说是投诉大于表扬。当然这个也不完全是英博数科造成的,也有本身原厂家造成。原厂家质量也是很成问题的一个事情,包括在坏了之后换修这种客观上增添了一些困难,的确给我们在过去造成了不少投诉。对此,我们只能按照合同条款进行补偿,大家遵守契约精神。但因为现在市场太稀缺了,所以客户也给了我们很大的一个包容性

接下来往下一步去走的话,我们更看重的第一个是GPU云平台这个交付体验的问题;第二个是GPU云平台作为一个生态入口上面交易的活跃度的问题;第三个我们跟很多家一起共同成立的算力创新赋能中心,对于融合替代创新解决方案的(de)问题,我们(men)不(bu)分(fen)AMD卡(ka)还(hai)是(shi)英伟达卡(ka),不(bu)分(fen)国(guo)产还(hai)是(shi)国(guo)内(nei)生态,我们(men)只看大的(de)AGI生态。

国仁:前面你也提到了,咱们团队整体是重集成轻研发的布局,那么公司如何分配公司在硬件、软件和服务层的资源投入?

周韡韡:没有(you)刻意的(de)(de)去侧(ce)重,但是(shi)它(ta)天然造(zao)成(cheng)了一个占(zhan)比分配。首先硬件(jian)一定(ding)是(shi)占(zhan)比最大(da)的(de)(de),第一个阶(jie)段(duan)刚起步时(shi),我(wo)(wo)们(men)90%的(de)(de)钱都用在(zai)(zai)硬件(jian)上了。然后(hou)现(xian)在(zai)(zai),因为(wei)我(wo)(wo)们(men)有(you)了多种(zhong)多样的(de)(de)硬件(jian)合作模式,比如说新的(de)(de)客户来采购(gou)并(bing)委托给我(wo)(wo)们(men)代运营,这种(zhong)方(fang)(fang)(fang)式转嫁了我(wo)(wo)的(de)(de)采购(gou)和(he)折(zhe)旧成(cheng)本,那这方(fang)(fang)(fang)面投入(ru)就(jiu)会逐步降低。这个阶(jie)段(duan)我(wo)(wo)们(men)在(zai)(zai)做云研发,在(zai)(zai)做运维工程师的(de)(de)培训(xun),在(zai)(zai)整个生态拓展(zhan)的(de)(de)引入(ru)方(fang)(fang)(fang)面投入(ru)也(ye)好,收入(ru)也(ye)好,就(jiu)会逐步的(de)(de)增加。

国仁:在去年跟您聊的时候,您提到英博数科跑赢同行的主要优势是“有算力”。但存量算力是有限的,英博数科这一优势能保持多久?如何保持?

周韡韡:我觉得这到最后就是结果决定关系,我们看(kan)一个结果(guo)就(jiu)可以了。不(bu)(bu)管今天(tian)说你是有(you)(you)算力还是没(mei)算力,能干(gan)还是不(bu)(bu)能干(gan),结果(guo)是你有(you)(you)没(mei)有(you)(you)客(ke)(ke)户,你的(de)客(ke)(ke)户有(you)(you)没(mei)有(you)(you)变(bian)多。那从这个角度(du)上来讲(jiang),英博以前的(de)老客(ke)(ke)户仍然存在,新(xin)的(de)客(ke)(ke)户不(bu)(bu)断进来,我觉得这个就(jiu)已经说明了我们的(de)所有(you)(you)能力。

国仁:您之前谈到“英伟达几乎是提供算力硬件的最佳选择”,这是不是意味着英博数科不太会去考虑国产硬件?

周韡韡:会,我(wo)(wo)(wo)们(men)(men)现在(zai)一直在(zai)尝试。我(wo)(wo)(wo)们(men)(men)去尝试了(le)很多(duo)种,不只是国产,像非(fei)常早的(de)(de)时候AMD的(de)(de)卡(ka)还(hai)没有做(zuo)(zuo)限售通知(zhi)的(de)(de)时候,就提供(gong)给我(wo)(wo)(wo)们(men)(men)了(le)。我(wo)(wo)(wo)们(men)(men)做(zuo)(zuo)过(guo)AMD的(de)(de),也试过(guo)海(hai)光的(de)(de),然后我(wo)(wo)(wo)们(men)(men)也通过(guo)跟合作方(fang)像百川(chuan)智能和智源研究院这(zhei)种去看过(guo)华(hua)为昇(sheng)腾、寒武纪这(zhei)些(xie)。包括我(wo)(wo)(wo)们(men)(men)跟软(ruan)通、华(hua)鲲这(zhei)边的(de)(de)沟通都(dou)非(fei)常频繁。

而且当我们的(de)(de)客(ke)户发展到一(yi)定阶段,推理的(de)(de)需求一(yi)定会(hui)上(shang)涨。那这(zhei)个时候就会(hui)有大量的(de)(de)国产算(suan)力去填(tian)补(bu)这(zhei)个市(shi)场的(de)(de),这(zhei)跟英(ying)伟达的(de)(de)合作是不(bu)冲突的(de)(de)。

国仁:在英博数科的规划中,公司要跟英伟达学生态做中国版App Store+Hugging Face。为什么不延用英伟达的生态,或延用其他云巨头的生态?

周韡韡:这个其实回到我们刚开始第一个问题,跟讨论CoreWeave有点类似了。英伟达的成功使我们看到了生态的价值。但是在哪里去发展这个生态,用什么样的方式发展,是要结合我们自己的情况。这就有个“橘生淮南还是淮北”的问(wen)题了。我们(men)是(shi)存在(zai)(zai)着硬件(jian)软件(jian)各方面先天性受限的,在(zai)(zai)这(zhei)种情况(kuang)下(xia),我们(men)要(yao)想发展生(sheng)态(tai),首先你得有足(zu)够的基数人群。

这就解释了我们为什么那么看重像Hugging Face模式。因为他适不适合做这一行,你得先让他看到这一行。你要为这个产业考虑,只有加入进来的人越多,你才在有可能在以后赚得更多。其实国内是完全具备这个条件,包括我们也看到阿里云的魔塔社区,也是在走这个方向。我们必须去找更多的人进来加入,才能去找到更多的可能性

然后像App Store这种方式,我们主要强调是它对于我们平台在未来的一种盈利的模式。就(jiu)比如说(shuo)现在苹果它(ta)其(qi)实是硬件赚(zhuan)钱,但是它(ta)的(de)App Store毛利更高,几乎(hu)收入接近于毛利。

所(suo)以我(wo)们未来(lai)给自己的一个目标和盈利模式的定(ding)位,就是我(wo)刚(gang)才所(suo)谓的云收入(ru),我(wo)们的企业服务收入(ru)。

国仁:英博数科有哪些获利模型?方便透露英博数科的盈利情况吗?

周韡韡:鸿博股份去年的年报做了扭亏的预告,这个扭亏主要是来自于英博数科。实事求是地说,目前收入来源仍是以算力服务为(wei)主,此(ci)外,我们也跟京能(neng)合作(zuo)共建算(suan)力中心项(xiang)目,在2023年底,这一部(bu)分(fen)收(shou)入(ru)贡献较(jiao)大。但(dan)是(shi)在未(wei)来(lai)的话,智算(suan)中心的运营服(fu)务也会(hui)是(shi)一个(ge)重要(yao)收(shou)入(ru)来(lai)源。然后像(xiang)随(sui)着(zhe)云业务、数据业务一点点起来(lai),还有具体(ti)应用场景撮合,这些服(fu)务收(shou)入(ru)肯定是(shi)要(yao)越(yue)(yue)来(lai)越(yue)(yue)高的。

国仁:那如果要拓展这些创新服务,咱们的销售体系架构就不一样了?

周韡韡:实话实说,我们现在没有(主动)销售。因为我们不需要靠销售,反而需要挑客户因为我们没有东西可卖。那我们(men)的(de)这(zhei)个商务团队是在(zai)干(gan)嘛呢?他(ta)(ta)们(men)在(zai)去(qu)寻(xun)找生态(tai)合作伙伴,就(jiu)是找一(yi)些想要(yao)在(zai)当地开展AI业务的(de)项目,以(yi)算力(li)或者(zhe)是资金的(de)形式去(qu)扶(fu)植加速他(ta)(ta)们(men)的(de)发展。

国仁:公司接下来有什么重要新品要发布,有什么样的时间表可以公布吗?

周韡韡:我们去年做了一个AI Tech Day的活(huo)动,今年会把这(zhei)个活(huo)动延续下来。

一方面,是会发布我们自己的产品和解决方案,但是以后占的比例肯定会越来越少了。我们自己产品解决方案主要是集中在搏博云的进展,还有大型集群通讯到了(le)哪(na)个阶段(duan),这方面的一些讨论。

另一方面,我们最主要的是想给客户创造一个展示自己的平台。应该说是(shi)会(hui)有(you)更多(duo)的(de)(de)(de)客户(hu),不管是(shi)竞品(pin)之间的(de)(de)(de)交流,还是(shi)已(yi)经(jing)有(you)的(de)(de)(de)垂类应用,在过(guo)去已(yi)经(jing)产生(sheng)的(de)(de)(de)这(zhei)种(zhong)贡献和(he)作用。类似于算力(li)接入各种(zhong)生(sheng)产力(li)的(de)(de)(de)场景,也(ye)是(shi)我们以后想在本次中国生(sheng)成式AI大会(hui)活动中展现出来的(de)(de)(de)。