AI下一站:Inference

    Nvidia第二季 的业绩,喜出望外,尤其第三季的预测,更大超预期,但之后几日的股价有点反高潮,市场亦散发负面情绪,忧虑AI市场化、double booking 、估值太贵和竞争对手涌现。市场上有不同声音是好事,一方面可以降温,并且让我们静思弄清来龙去脉,当机立断。

    AI不是新鲜事,最早IBM已用超级电脑去建立人工智能(AI),并且(象)棋开得胜,那时候的AI似Motorola DynaTAC吧。今年初OpenAI推出GPT3.5,正式将AI带进生活。今天PC和移动手机已是生活的一部分,下个生活改变是AI生活化,这是事在必行,但现在仍是开发阶段。整个AI生态是包含两部份:Training和Inference。

    Training

    人类智能不是与生俱来,婴儿开始透过不断学习(Training)吸收知识,学以致用,父母为令子女出人头地,四出找好学校(LLM),希望明师出高徒,将来学有所成,一展所长,最好是成为另一个爱因斯坦或奥本海默。AI就是要训练一个超劲的LLM,好能将来谁与争锋,现时的LLM包括:GPT3.5/4、PaLM2/E、Claus v1、LLaMA等,每个都拥有海量的知识,并且 training 还在加速进行,对GPU有很大的需求。

    上年AI startup共集资46B,今年是有增无减,这些现金主要是花在人工和买算力,现在是有钱也买不到算力,CSP绝对清楚需求,有多少买多少。市场传CoreWeave再集资8亿买GPU,应付需求。

    Inference

    要将train��的知识表达出来已不是大问题,每个LLM都会发�炎约旱目际猿杉ā�ChatGPT、Bard、BingChat就是在这方面作出贡献,留意这工作亦要GPU算力。Inference是进一步利用 LLM内的知识去举一反三,进一步演译,这是未来真正的AI。简单例子,LLM透过吸收大量的汽车图片,去判断是否真车、死车、假车、什麽车,进而在自动驾驶如何面对和处理。

    现阶段,AI developers仍然在努力training,这是非常烧钱的工作,但是必需,并且要斗快跑出,因为胜者为王。但 inference才是最关键和非常不容易,人脑的认知和应变是现在AI不可能的任务。还好是,一些简单inference 的工作已开始推出,产生收入,例如Microsoft Copilot 、Adobe Firefly。这方面需要的算力绝对不低。

    GPU

    在整个AI生态,无论是Training 或Inference ,GPU是不可或缺。现时Nvidia �灼叱桑�严肃讲,其实是九成以上,因为那三成是传统GPU,�u图像处理,Nvidia 的GPU是加速器。Amazon、Alphabet等亦有研发相类的芯片,但自用为主。Nvidia 盟主的地位,已很难有威胁,因为它结合linking和SDK支援,令用者称心如意,要转台绝对不是简单事情。

    Microsoft 不搅芯片,选择跟Nvidia 合作,Alphabet和Amazon有自家芯片,但亦要高调宣�迅�Nvidia 合作,因为客户需求。

    CPU 可以处理inference, 但跟GPU 一�悖�荣辱互见。



    Nvidia

    观乎这几季Nvidia Data Centre 的销售,对比之前是有点跨张,但事实上,部分是从Intel的份额转过来,整体Data Centre的销售增长是合理。并且也不存在盲抢或double booking,因为data centre买H100来让用户租用,现在是供不应求,未来不会突然消失,因为training 和inference 并驾齐驱,还好后者可以用RTX或L40。


    Nvidia 在$487水平 的TTM市盈率是80X,大家不要吓一跳,因为到第三季已降至59X,年尾是43X,明年第一季是低过40X,是往绩地板位。判断平与贵,一定要结合未来的盈利增长,是否有消化能力,这方面,自己做功课。

    Data Centre

    过去一段时间,三大data centre每年都在高速增长,因为硬件及算力需求,企业明白租用data centre胜过自购,情况如企业会选择租物业,取其灵活及轻资金。20年疫情爆发,WFH盛行,更加速data centre的发展。今年data centre 大量�窆�GPU,当然不是自用,所以这业务的前景值得看好。


    OpenAI

    当大家仍在思考究竟AI是烧钱还是有作为,这便要观察AI是否有生产力,这才可以变现。有报道OpenAI今年营销达10亿(原本目标是2亿),这原本是明年的的目标,证明是有“食”力。

    OpenAI的商业变现包括透过API/plugins 提供GPT、DALL-E和Whisper,另外是为开发者提供Chat、Embeddings、Analysis和Fine-tuning。OpenAI有财和有才,公司已表明没有打算资本化,但肯定是AI大赢家,到年底的营收肯定超过现时的每月80M。 给大家参考,META、Alphabet 和Apple上年的营收分别是114B、282B和394B。AI未来的变现数和速度,不容低估。

    FOMO

    Nvidia 和OpenAI是非常励志,给行业很大鼓舞,虽然我们知道是汰弱留强,甚至是winner takes all,但不阻止各类持份者争先恐后,因为FOMO。

    蔡光华,力高资产管理投资总监 chris.choy@legogroup.hk(香港证监会持牌人)

AI下一站:Inference

文章声明:以上内容除非注明,否则均为互联网收集整理内容,转载或复制请以超链接形式并注明出处,如有不实之处,请联系管理员进行处理。

相关阅读

热门文章