3月28日，云天勵(lì)飛（688343.SH）舉辦AI大模型產(chǎn)品發(fā)布會(huì)，正式發(fā)布“深目”AI模盒。據(jù)介紹，該產(chǎn)品能夠做到“3個(gè)90%”——覆蓋場(chǎng)景超過90%、算法精度超過90%，使用成本降低90%，解決大模型在場(chǎng)景落地“最后一公里”的問題，幫助更多中小企業(yè)客戶輕松使用大模型。

從ChatGPT到Sora，從文生文、文生圖像到文生視頻，大模型發(fā)展日新月異，持續(xù)給行業(yè)帶來驚喜，不僅國(guó)內(nèi)掀起“百模大戰(zhàn)”，國(guó)外科技巨頭也在大模型上相互“較勁”。

發(fā)布會(huì)上，云天勵(lì)飛董事長(zhǎng)兼CEO陳寧認(rèn)為，未來3年，全球80%的企業(yè)都將使用大模型。但是，要訓(xùn)練專屬大模型，不僅需要大算力、大數(shù)據(jù)，還需要大量頂尖人才。大模型一次訓(xùn)練成本在千萬(wàn)元級(jí)，主流的訓(xùn)推一體機(jī)價(jià)格普遍在百萬(wàn)元，絕大多數(shù)企業(yè)都無(wú)法承擔(dān)這樣高昂的成本。

值得關(guān)注的是，為了能夠讓大模型“平民化”，云天勵(lì)飛推出了“深目”AI模盒。這款產(chǎn)品售價(jià)在千元級(jí)，用單手就能托起，搭載了云天勵(lì)飛的自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”，具備算法邊緣側(cè)在線學(xué)習(xí)能力，可實(shí)現(xiàn)算法場(chǎng)景覆蓋超過90%、算法精度超過90%，使用成本降低90%，讓用戶都能夠根據(jù)自身場(chǎng)景需求，利用大模型能力，訓(xùn)練出可實(shí)戰(zhàn)應(yīng)用的算法。

“能夠?qū)崿F(xiàn)3個(gè)90%，離不開云天勵(lì)飛的核心能力——算法芯片化。”陳寧說。據(jù)介紹，“深目”AI模盒的算力基礎(chǔ)，來源于去年云天勵(lì)飛推出的14nm Chiplet大模型訓(xùn)推芯片DeepEdge10 Max。該芯片采用自主可控的國(guó)產(chǎn)工藝，內(nèi)含國(guó)產(chǎn)RISC-V核，支持大模型訓(xùn)練推理部署。依托自研芯片DeepEdge10 Max創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡，已適配并可承載10億級(jí)SAM、百億級(jí)Llama2等大模型運(yùn)算，可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。

此外，為了共同探索更多大模型低成本、高效率落地應(yīng)用路徑，云天勵(lì)飛與鵬城實(shí)驗(yàn)室、之江實(shí)驗(yàn)室、上海交通大學(xué)城市治理研究院等多家單位共同成立“深目2.0”生態(tài)聯(lián)盟，共同探索更多大模型落地應(yīng)用路徑。