侃股網-股民首選股票評論門戶網站

     找回密碼
     立即注冊

    QQ登錄

    只需一步,快速開始

    搜索
    熱搜:

    LPU推理引擎推理速度較英偉達GPU提高10倍(受益概念股)

    2024-2-21 20:25| 發布者: admin| 查看: 1055| 評論: 0

    摘要: 一家名為Groq的初創公司在AI圈爆火,其開發的LPU推理引擎,推理速度較英偉達GPU提高10倍,成本只有其1/10。在此消息影響下,昨日相關個股尾盤飆升,西測測試和北京君正急速20cm漲停。 ...
    主流存儲延續漲價趨勢。

    受外圍AI題材全線暴漲影響,A股節后相關題材也大幅反彈。申萬一級行業通信、傳媒兩大指數節后均大漲超7%,高居漲幅榜前二,計算機指數大漲超4%,位居漲幅榜第四。概念漲幅更為猛烈,多模態模型指數大漲超16%,10多個相關指數漲超10%。部分個股大幅飆升,會暢通訊、中文在線、當虹科技等兩天大漲超40%。

    昨日AI題材再曝大消息,一家名為Groq的初創公司在AI圈爆火,其開發的LPU推理引擎,推理速度較英偉達GPU提高10倍,成本只有其1/10。在此消息影響下,昨日相關個股尾盤飆升,西測測試和北京君正急速20cm漲停。

    比英偉達快10倍的AI芯片問世

    目前,AI芯片市場主要是由英偉達主導,H100也公認是訓練大語言模型最需要的GPU。在AI大發展的背景下,英偉達業績股價雙雙暴漲。華爾街預計英偉達第四財季營收超過200億美元,是上年同期60.5億美元的3倍多,其業績也將于北京時間2月22日公布。股價方面,在去年大漲239%的情況下,今年英偉達股價再度暴漲超40%,最新市值超1.7萬億美元,一度超過谷歌、亞馬遜成為美股第三大公司。

    看好AI市場的廣闊空間,微軟、谷歌、AMD、英特爾等巨頭也紛紛發力AI芯片業務。據報道,科技巨頭微軟公司正在開發一種新的網卡,用來提高其人工智能芯片Maia的性能,最終達到減少對英偉達產品依賴的目的。另外,去年底作為英偉達最強挑戰者的AMD,則發布了“最強算力”Instinct MI300X。

    初創公司Groq近期的消息更是吸足了眼球。該公司是一家由谷歌TPU團隊成立的初創公司,這些人推出了一種新型的自研芯片——LPU(Language Processing Unit),這個LPU用于大模型推理加速。其芯片推理速度較英偉達GPU提高10倍、成本只有其1/10;運行的大模型生成速度接近每秒500 tokens,碾壓ChatGPT-3.5大約40 tokens/秒的速度。

    背后真相揭秘

    根據推特上與Groq關系密切的投資人k_zeroS分享,LPU的工作原理與GPU截然不同。它采用了時序指令集計算機(Temporal Instruction Set Computer)架構,這意味著它無需像使用高帶寬存儲器(HBM)的GPU那樣頻繁地從內存中加載數據。這一特點不僅有助于避免HBM短缺的問題,還能有效降低成本。不同于Nvidia GPU需要依賴高速數據傳輸,Groq的LPU在其系統中沒有采用高帶寬存儲器(HBM)。它使用的是SRAM,其速度比GPU所用的存儲器快約20倍。

    不過真相可能并不簡單。業內大佬賈揚清算了一筆賬,因為Groq小得可憐的內存容量(230MB),在運行Llama-2 70b模型時,需要305張Groq卡才足夠,而用H100則只需要8張卡。從目前的價格來看,這意味著在同等吞吐量下,Groq的硬件成本是H100的40倍,能耗成本是10倍。

    然而這并不影響A股市場對SRAM概念股的追捧。昨日尾盤,北京君正在短短1個小時內由綠盤拉升至20cm漲停,西測測試在不到10分鐘時間拉升14%水平。今天早盤部分概念股繼續沖高,西測測試一度大漲超16%,北京君正一度漲超8%。

    3股凈利有望暴增超18倍

    業內人士指出,上述概念股的漲幅較大,一方面確實有SRAM概念助攻,另一方面作為核心題材的存儲器本身也受益于AI時代大發展。與此同時,存儲復蘇也利好整個板塊。國投證券研報顯示,主流市場的存儲廠商自2023年三季度以來迎來業績拐點,受益于AI服務器需求激增,高帶寬存儲芯片HBM 受到熱捧,成為存儲芯片行業發展的重要增量。據TrendForce 預計,今年一季度 DRAM 合約價季漲幅約13%至18%,NAND Flash為18%至23%,全年維持上漲趨勢,到2024年底,DRAM和NAND Flash 的價格將上漲約60%。

    一些公司的業績也有望暴增。根據機構一致預測,朗科科技、德明利、恒爍股份等3股機構一致預測今年凈利增速均超18倍,普冉股份、瀾起科技、江波龍、聚辰股份等個股機構一致預測今年凈利增速均超100%。與業績不相符的是,大部分個股股價表現不佳,佰維存儲、恒爍股份、大為股份、中電興發等個股年內均跌超30%。



    路過

    雷人

    握手

    鮮花

    雞蛋

    相關閱讀

    ?
    侃股網簡介|手機版|網站地圖|友情鏈接|
    返回頂部