（原標(biāo)題：云天勵飛：IPU-X6000加速卡已適配超過30個開源大模型，預(yù)期能使大模型推理成本大幅度下降）

經(jīng)濟(jì)觀察網(wǎng)訊 7月24日，云天勵飛在上證e互動平臺表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其內(nèi)置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高帶寬、128GB大顯存、c2c mesh互聯(lián)，可應(yīng)用于語言大模型、視覺大模型、多模態(tài)大模型等各類大模型推理加速領(lǐng)域。目前已經(jīng)支持適配云天書、通義千問、百川智能、智譜清言、Meta等30+開源大模型，涵蓋1.5B參數(shù)到70B參數(shù)量，預(yù)期能使大模型推理成本大幅度下降。（實(shí)習(xí)記者 李青陽 編輯 李仕靜）

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點(diǎn)和立場。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識產(chǎn)權(quán)的作品，請與我們?nèi)〉寐?lián)系，我們會及時修改或刪除。

Tags：[db:TAG標(biāo)簽](1676510)

轉(zhuǎn)載請標(biāo)注：信息網(wǎng)——云天勵飛：IPU-X6000加速卡已適配超過30個開源大模型，預(yù)期能使大模型推理成本大幅度下降