AMD最近開始量產(chǎn)出貨其最新一代人工智能和高性能計(jì)算(HPC)加速器Instinct MI300X,并率先交付合作伙伴LaminiAI使用。LaminiAI將使用MI300X加速器執(zhí)行大型語言模型(LLM)的計(jì)算工作,以滿足企業(yè)用戶的需求。
事實(shí)上,LaminiAI與AMD已有多年合作,因此優(yōu)先獲得MI300X的供貨并不意外。該公司CEO Sharon Zhou在社群媒體上宣布了這一消息,LaminiAI已經(jīng)收到了多臺(tái)配備8個(gè)Instinct MI300X加速器的設(shè)備,SharonZhou表示,首批AMDMI300X已經(jīng)投入應(yīng)用,LaminiAI的新一代LLM集群即將上線。
為了力抗英偉達(dá)(NVIDIA),MI300X是AMD Instinct MI300系列的高性能版本,主打AI和HPC計(jì)算,其放棄了x86CPU核心,而是搭載更多的CDNA3計(jì)算單元,總數(shù)達(dá)到304個(gè),遠(yuǎn)高于MI300A的228個(gè)。此外,MI300X還配備了192GB HBM3高速存儲(chǔ)器,最高頻寬高達(dá)5.3TB/s。
根據(jù)AMD官方性能測試,MI300X的表現(xiàn)優(yōu)于市面上已有的Nvidia H100 80GB,甚至有可能對即將上市的H200 141GB構(gòu)成威脅。目前,Meta、微軟等巨頭客戶已采購了大量AMD Instinct MI300系列產(chǎn)品,LaminiAI則是首家公開使用MI300X的公司。
封面圖片來源:拍信網(wǎng)