DeepSeek于知乎開設(shè)官方賬號,獨家發(fā)布《DeepSeek-V3/R1推理系統(tǒng)概覽》技術(shù)文章,首次公布模型推理系統(tǒng)優(yōu)化細(xì)節(jié),并披露成本利潤率關(guān)鍵信息,標(biāo)志著全球關(guān)注的“DeepSeek開源周”正式收官。
文章寫道:“DeepSeek-V3 / R1 推理系統(tǒng)的優(yōu)化目標(biāo)是:更大的吞吐,更低的延遲?!睘閷崿F(xiàn)這兩個目標(biāo),DeepSeek的方案是使用大規(guī)??绻?jié)點專家并行(EP),但該方案也增加了系統(tǒng)復(fù)雜性。文章的主要內(nèi)容就是關(guān)于如何使用EP增長批量大?。╞atch size)、隱藏傳輸耗時以及進(jìn)行負(fù)載均衡。
值得一提的是,文章還率先披露了DeepSeek的成本和利潤率等關(guān)鍵信息。“假定GPU租賃成本為2美金/小時,總成本為$87,072/天?!绻?tokens全部按照DeepSeek R1的定價計算,理論上一天的總收入為$562,027,成本利潤率545%?!?/span>
據(jù)了解,“DeepSeek開源周”自2月24日至2月28日,陸續(xù)開源最新技術(shù)進(jìn)展。其中包括,F(xiàn)lashMLA、DeepEP、DeepGEMM和3FS四個開源項目,以及DualPipe、EPLB等代碼庫。每一項開源發(fā)布,都在知乎引發(fā)了業(yè)內(nèi)人士的熱烈討論和贊嘆。
“話不多說,DeepSeek和OpenAI一樣重要?!敝醮竽P驮掝}優(yōu)秀答主、算法工程師“劉聰NPL”如此評價。業(yè)內(nèi)人士甚至認(rèn)為,“DeepSeek開源周”的重要性已經(jīng)超過了不久前OpenAI的發(fā)布會。DeepSeek用“量大管飽”的開源有力回?fù)袅藲W美關(guān)于DeepSeek故意說低訓(xùn)練成本的說法,并且證明了在訓(xùn)練鏈路上存在極大的優(yōu)化空間。“劉聰NPL”在開源周最后一天就感嘆:“真沒想到,最后一天DeepSeek對存儲下手??!”而知乎編程話題優(yōu)秀答主“平凡”在第三天就做出判斷:“這些工作幾乎不可能在國外的AI公司里面完成?!?/span>
來源:環(huán)球網(wǎng)科技頻道