“只有創(chuàng)新才能不斷推動技術(shù)的進步”Arm高級副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Mohamed Awad認為，這也是Arm一直秉承的信念。

Arm Tech Symposia年度技術(shù)大會深圳場于11月27日舉行，本次會議以“Arm正在構(gòu)建計算的未來”為主題，圍繞人工智能、機器學習、物聯(lián)網(wǎng)、基礎(chǔ)設(shè)施、汽車、終端、移動計算等行業(yè)熱點話題進行探討。

多年來，Arm通過創(chuàng)新不斷拓展其計算平臺，產(chǎn)品組合包括Arm 全面計算解決方案(Arm Total Compute Solutions)、Arm Neoverse平臺、Arm Corstone以及SOAFEE等。而在本次會議上，Mohamed Awad向業(yè)界詮釋了人工智能(AI)正在發(fā)生的一些變化、以及對未來計算基礎(chǔ)設(shè)施市場的展望和戰(zhàn)略目標，同時全方位地介紹了Arm Neoverse 計算子系統(tǒng)（CSS）的技術(shù)創(chuàng)新點和細節(jié)。

圖：全球半導體觀察（攝）

全新系統(tǒng)架構(gòu)融入基礎(chǔ)設(shè)施，加速解決行業(yè)痛點

從架構(gòu)差異上看，“在傳統(tǒng)的服務(wù)器系統(tǒng)架構(gòu)中，左邊是內(nèi)存，然后內(nèi)存連接到一個通用的現(xiàn)成CPU，這個CPU又負責管理多個加速器。這樣的傳統(tǒng)架構(gòu)是過去市場上唯一可用的架構(gòu)，但這個架構(gòu)的問題在于，這個通用的現(xiàn)成CPU以及加速器之間的接口直接限制了產(chǎn)品最終的性能水平，因為所有的加速器都必須要通過一個CPU訪問額外的內(nèi)存，這樣就無法達到內(nèi)存的一致性，也就意味著加速器的性能無法被充分利用，也就無法很好地支持生成式AI時代的需求。”Mohamed Awad指出。

而現(xiàn)在出現(xiàn)了一種現(xiàn)代的系統(tǒng)架構(gòu)，即每一個CPU都可以單獨和一個加速器相連，會有較強的內(nèi)存一致性。更重要的是，該CPU是一個定制的CPU，跟加速器實現(xiàn)一對一組合后，它的整體鏈路以及數(shù)據(jù)吞吐率會達到最高，以提高加速器本身的利用水平。

Mohamed Awad指出，在這樣的架構(gòu)下，設(shè)計方可以更好地根據(jù)用戶的實際場景和用例進行CPU設(shè)計，從而將加速器的使用效率提到最高。只有具體了解最終用例是什么，并且根據(jù)你的使用場景針對性地設(shè)計CPU，才能獲得更好的效率，才能達到產(chǎn)品最佳的表現(xiàn)性能，從而更好地支持未來基礎(chǔ)設(shè)施的市場需求，包括生成式AI。

談及這樣的架構(gòu)是否會增加連接的復雜，Mohamed Awad強調(diào)，這樣的架構(gòu)可以實現(xiàn)非常多的直連，不管是裸片對裸片的直連，還是SoC的直連，這個架構(gòu)可以實現(xiàn)內(nèi)存的一致性，并作為單獨的系統(tǒng)運行，讓性能與效率表現(xiàn)更為優(yōu)異。

上述描述的架構(gòu)正是NVIDIA GH200 Grace Hopper超級芯片所使用的架構(gòu)。在該架構(gòu)中，搭載了72顆Arm Neoverse核心和來自NVIDIA GPU的組合，其AI性能較基于x86架構(gòu)的系統(tǒng)可提升10倍。

目前，阿里巴巴、鴻鈞微電子、遇賢微電子、云豹智能以及聯(lián)想等企業(yè)正與Arm進行深度地合作，通過Arm提供的計算技術(shù)平臺從而打造并優(yōu)化其解決方案，或是將Arm平臺部署到5G應(yīng)用中。

Mohamed Awad稱，Arm能夠幫助合作伙伴從頭開始、根據(jù)所需構(gòu)建定制化的CPU，幫助他們做好CPU和加速器之間的連接。除此以外，還可以利用Arm強大的軟件生態(tài)系統(tǒng)，以賦能整個開發(fā)，并加速產(chǎn)品上市進程。這也是Arm的獨特之處。

拉開創(chuàng)新自由度，Arm Neoverse CSS打造定制化基礎(chǔ)設(shè)施

Arm Neoverse計算子系統(tǒng)(CSS)是Arm于8月28日宣布推出的驅(qū)動定制芯片，面向新一代數(shù)據(jù)中心和網(wǎng)絡(luò)基礎(chǔ)設(shè)施。該產(chǎn)品是基于Arm Neoverse N2平臺所開發(fā)的Arm Neoverse CSS N2為Arm CSS的第一代產(chǎn)品。

Arm Neoverse CSS N2從每芯片24、32和64個核心設(shè)計進行擴展，具有連接DDR5、LPDDR5、PCIe/CXL和其他類型IP的接口。相較于獨立的IP，Arm Neoverse CSS N2將促使Arm生態(tài)系統(tǒng)通過更低的成本、更少的風險以及更短的時間，打造出專用芯片。

圖：全球半導體觀察（攝）

Arm表示，通過使用其Neoverse CSS，專用集成電路(ASIC)設(shè)計公司可以快速啟動設(shè)計項目，并隨時可將其設(shè)計方案提供給所需的客戶；IP供應(yīng)商可以針對NeoverseCSS，進行預(yù)先集成、預(yù)先驗證和預(yù)先優(yōu)化高級IP；EDA合作伙伴可以無縫支持最先進的工具和流程，以簡化SoC設(shè)計；商業(yè)固件解決方案可早于芯片流片之前便開始開發(fā)；與此同時，Neoverse CSS的設(shè)計將經(jīng)過專門優(yōu)化，充分發(fā)揮領(lǐng)先的工藝節(jié)點的優(yōu)勢。

據(jù)悉，在一家合作伙伴的實現(xiàn)中，Arm Neoverse CSS可降低SoC的設(shè)計復雜性，并節(jié)省了長達80人/年的工程師時間。另據(jù)Mohamed Awad透露，根據(jù)另外一個客戶的反饋，通過使用Arm Neoverse CSS，助力他們的項目從概念到落實（在超過100個核心的系統(tǒng)上啟動Linux）僅耗時13個月。

近期，微軟發(fā)布了基于Arm Neoverse CSS的Microsoft Azure Cobalt 100 CPU。此外，據(jù)了解目前也有中國的合作伙伴正在基于Arm Neoverse CSS進行開發(fā)。

在Neoverse CSS的基礎(chǔ)之上，Arm還宣布推出Arm全面設(shè)計(Arm Total Design)生態(tài)項目，進一步結(jié)合生態(tài)系統(tǒng)的力量，簡化定制芯片的開發(fā)流程，使交付變得更加容易、便捷。目前，Arm全面設(shè)計進一步提高了Neoverse CSS生態(tài)系統(tǒng)中可供合作伙伴使用的可能性，能夠幫助合作伙伴加速他們的解決方案開發(fā)。這也就意味著，不管是ASIC設(shè)計公司、IP供應(yīng)商、EDA工具提供商、代工廠和固件開發(fā)者，Arm都能進一步支持和幫助他們的產(chǎn)品研發(fā)。

值得關(guān)注的是，在芯粒（chiplet）領(lǐng)域中，Arm Neoverse CSS具備讓定制芯片更易獲取的特性，可以支持新興的chiplet技術(shù)。通過與Arm全面設(shè)計生態(tài)項目成員和更廣泛的生態(tài)系統(tǒng)在AMBA CHIC2C、UCIe和其他計劃上開展合作，Arm正在推動將基本接口和系統(tǒng)架構(gòu)達成業(yè)內(nèi)一致性，實現(xiàn)圍繞多芯片芯粒SoC設(shè)計的創(chuàng)新發(fā)展。據(jù)Arm指出，一個典型例證是來自Socionext的多核CPU芯粒，其采用Neoverse CSS技術(shù)，并基于TSMC 2nm工藝節(jié)點進行設(shè)計開發(fā)，面向服務(wù)器CPU、數(shù)據(jù)中心AI邊緣服務(wù)器和5/6G基礎(chǔ)設(shè)施提供解決方案。

AI發(fā)展勢頭正勁，Arm下一步如何落子？

ChatGPT等生成式AI的大規(guī)模商用加速了AI的普及。而人工智能的關(guān)鍵在于硬件和軟件的緊密集成，以及性能和計算能力的提升，在當今70%的機器學習工作負載運行在Arm平臺之上。

面對當下的市場和瞬息萬變的新需求，Mohamed Awad稱，對于Arm來說，其閃光點在于始終致力于助力其合作伙伴，通過實驗、設(shè)計，以及創(chuàng)新系統(tǒng)架構(gòu)，進一步推動包括生成式AI等在內(nèi)的AI的發(fā)展。

從基礎(chǔ)設(shè)施的角度來講，Mohamed Awad表示，“Arm希望從更加廣義的角度來界定AI。傳統(tǒng)意義上，大家所提到的AI都是服務(wù)器當中的AI或生成式AI，但是我們相信，未來當我們在討論AI時，它還可以存在于邊緣，存在于網(wǎng)絡(luò)當中，從傳統(tǒng)的數(shù)據(jù)端，一直到存儲，到服務(wù)器，將融入每一個過程當中。”

針對中國市場而言，Mohamed Awad表示，中國是Arm非常重要的市場之一。來自中國市場的創(chuàng)新也是Arm不斷發(fā)展，并在業(yè)務(wù)上取得成功的原因之一。

Mohamed Awad透露稱，“中國合作伙伴基于Arm架構(gòu)芯片的總出貨量已累計達300億顆，這個數(shù)字確實驚人。也就是說，僅中國市場的出貨量來看，就能平均為地球上的每個人出貨近四顆芯片。目前我們在中國有近400家技術(shù)授權(quán)客戶，這個數(shù)字每個月都在不斷攀升。此外，我們也一直通過與安謀科技合作以進一步助力本土合作伙伴。”