（原標(biāo)題：云天勵(lì)飛：IPU-X6000加速卡已適配超過(guò)30個(gè)開源大模型，預(yù)期能使大模型推理成本大幅度下降）

經(jīng)濟(jì)觀察網(wǎng)訊 7月24日，云天勵(lì)飛在上證e互動(dòng)平臺(tái)表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其內(nèi)置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高帶寬、128GB大顯存、c2c mesh互聯(lián)，可應(yīng)用于語(yǔ)言大模型、視覺(jué)大模型、多模態(tài)大模型等各類大模型推理加速領(lǐng)域。目前已經(jīng)支持適配云天書、通義千問(wèn)、百川智能、智譜清言、Meta等30+開源大模型，涵蓋1.5B參數(shù)到70B參數(shù)量，預(yù)期能使大模型推理成本大幅度下降。（實(shí)習(xí)記者 李青陽(yáng) 編輯 李仕靜）

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點(diǎn)和立場(chǎng)。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識(shí)產(chǎn)權(quán)的作品，請(qǐng)與我們?nèi)〉寐?lián)系，我們會(huì)及時(shí)修改或刪除。

Tags：[db:TAG標(biāo)簽](1676514)

轉(zhuǎn)載請(qǐng)標(biāo)注：信息網(wǎng)——云天勵(lì)飛：IPU-X6000加速卡已適配超過(guò)30個(gè)開源大模型，預(yù)期能使大模型推理成本大幅度下降