在今年的早期時(shí)候，我嘗鮮了面向個(gè)人開(kāi)發(fā)者的AI超級(jí)計(jì)算機(jī)——技嘉AI TOP ATOM。要知道，該主機(jī)尺寸僅為150mm x 150mm x 50.5mm，這對(duì)于需要在辦公桌、工作室等環(huán)境中使用的開(kāi)發(fā)者來(lái)說(shuō)，這種形態(tài)幾乎沒(méi)有什么部署門(mén)檻，只需要網(wǎng)絡(luò)和供電就行，可以說(shuō)將桌面化做到了極致。

本次分享的技嘉 AI TOP ATOM 正是基于上述理念打造的個(gè)人 AI 超級(jí)電腦，它搭載了 NVIDIA 與聯(lián)發(fā)科合作設(shè)計(jì)的 GB10 Grace Blackwell 超級(jí)芯片。專(zhuān)為個(gè)人開(kāi)發(fā)者、數(shù)據(jù)科學(xué)家及 AI 研究人員打造，打破了頂級(jí)算力必須依賴(lài)云端或大型機(jī)房的局限，在保持便攜性的同時(shí)，為本地 AI 推理與微調(diào)提供了極具彈性的解決方案。

硬件賞析及配置

▼簡(jiǎn)單看看這臺(tái)設(shè)備吧，尺寸方面，技嘉 AI TOP ATOM 和大部分迷你主機(jī)差不多，準(zhǔn)確數(shù)據(jù)為 150 x 150 x 50.5mm，槍灰色的金屬機(jī)身，表面沒(méi)有任何裝飾，主打沉穩(wěn)簡(jiǎn)潔，下圖是和 Macmini M4 的對(duì)比。

▼配件方面包括主機(jī)和電源適配器，接口走的 Type-C，支持 PD3.1 快充協(xié)議，最大輸出功耗 240W，理論來(lái)說(shuō)用氮化鎵充電器也能推。

▼主機(jī)正面沒(méi)有任何冗余接口，視覺(jué)上極為干練，僅點(diǎn)綴以技嘉英文 Logo。通體貫穿的 MESH 散熱網(wǎng)孔若隱若現(xiàn)，這種“全面透氣”的構(gòu)造顯然是為了應(yīng)對(duì) GB10 超級(jí)芯片在高強(qiáng)度算力輸出下的散熱需求，確保氣流能毫無(wú)阻礙地帶走內(nèi)部熱量。

▼接口配置上，技嘉 AI TOP ATOM走的是極致精簡(jiǎn)且高效的路線。側(cè)邊集成了 4 枚 Type-C 接口（含電源輸入口）與 HDMI 2.1 高清接口，能夠滿(mǎn)足日常所有的外設(shè)接入與顯示需求。而 10G 萬(wàn)兆網(wǎng)口的加入，則確保了在局域網(wǎng)內(nèi)傳輸海量訓(xùn)練數(shù)據(jù)集時(shí)的吞吐效率。

▼最右邊的則是普通用戶(hù)很少見(jiàn)到的 NVIDIA ConnectX-7 智能網(wǎng)卡。這原本是數(shù)據(jù)中心級(jí)設(shè)備才擁有的專(zhuān)屬組件，它支持高達(dá) 400 Gb/s 的傳輸速率，幾乎消除了數(shù)據(jù)交換的物理屏頸。更重要的是，它不僅能提供驚人的 400 Gb/s 超高帶寬與極低延遲，而且支持將兩臺(tái) AI TOP ATOM 串聯(lián)為算力集群。利用雙機(jī)共享算力和內(nèi)存實(shí)現(xiàn) 1+1>2 的性能飛躍，讓本地處理數(shù)千億參數(shù)的超大規(guī)模模型成為可能。

▼拆機(jī)還是比較簡(jiǎn)單的，固定螺絲隱藏在機(jī)身底部的膠條下。

▼揭開(kāi)底蓋后是兩根布局獨(dú)特的 WiFi 天線。在如此緊湊的空間內(nèi)采取這種安置方式確實(shí)不多見(jiàn)，顯然是為了規(guī)避內(nèi)部復(fù)雜電子元器件的信號(hào)干擾，確保無(wú)線連接的穩(wěn)定性。

▼內(nèi)部的散熱規(guī)格堪稱(chēng)“暴力”。為了壓制 GB10 超級(jí)芯片的驚人算力，它配備了雙渦輪（Blower）風(fēng)扇陣列，搭配厚度極其扎實(shí)的散熱鰭片組。結(jié)合其全鋁合金外殼的物理導(dǎo)熱特性，這套散熱方案即便是在 7x24 小時(shí)的 AI 滿(mǎn)載訓(xùn)練任務(wù)下，也能提供令人心安的冷酷表現(xiàn)。

▼尾部的散熱格柵

▼這風(fēng)扇拆掉后能看到主板布局，左邊是 NVIDIA ConnectX-7 智能網(wǎng)卡，主要作用就是前面提到的集群擴(kuò)容

▼主機(jī)核心就是這塊 NVIDIA GB10 Grace Blackwell 超級(jí)芯片，這標(biāo)志著桌面端正式進(jìn)入了“超級(jí)芯片”時(shí)代，優(yōu)勢(shì)方面包括:

異構(gòu)計(jì)算核心： GB10 完美集成了 Blackwell GPU 與基于 ARM 架構(gòu)的 Grace CPU。其中 CPU 部分包含 20 個(gè)高性能核心（由 10 個(gè) Cortex-X925 與 10 個(gè) Cortex-A725 組成），確保了在處理復(fù)雜邏輯與數(shù)據(jù)流時(shí)的極致能效比。

• 恐怖的 AI 性能： Blackwell GPU 配備 6144 個(gè) CUDA 核心，并采用第五代 Tensor Core。在 FP4 精度計(jì)算下，單臺(tái)設(shè)備可提供高達(dá) **1 PFLOPS（每秒 1000 萬(wàn)億次）**的 AI 運(yùn)算性能。這使得單機(jī)即可支持最高 2,000 億參數(shù)的 AI 模型。
• NVLink-C2C 互連技術(shù)： 不同于傳統(tǒng)的 PCIe 總線，該機(jī)采用 NVLink-C2C 技術(shù)實(shí)現(xiàn) CPU 與 GPU 的高效協(xié)同，帶寬高達(dá) 900GB/s（約為 PCIe 5.0 的 5 倍）。這種超高帶寬確保了在微調(diào)大規(guī)模模型時(shí)，數(shù)據(jù)傳輸不再成為瓶頸。
• 集群擴(kuò)容潛力： 針對(duì)更高需求，AI TOP ATOM 支持通過(guò)集群串接。兩臺(tái)設(shè)備串聯(lián)后，可執(zhí)行高達(dá) 4,050 億參數(shù)的超級(jí)模型。結(jié)合 NVIDIA 完整的 AI 軟件棧，它為本地 AI 計(jì)算提供了前所未有的適應(yīng)性。

▼右側(cè)為處理器區(qū)域，技嘉 AI TOP ATOM 采用了 128GB LPDDR5X 內(nèi)存與 4TB NVMe 存儲(chǔ)的頂配方案。其內(nèi)存帶寬達(dá)到了驚人的 273GB/s，這種極致的配比正是為了應(yīng)對(duì)本地化 200B 大模型的嚴(yán)苛需求，讓復(fù)雜的 AI 推理與微調(diào)任務(wù)在本地運(yùn)行變得游刃有余。

▼存儲(chǔ)部分，該機(jī)在主板背面配備了 4TB 三星 PM9E1 SSD（M.2 2242 規(guī)格）。依托三星 5nm “Presto” 主控與 V8 TLC V-NAND 的核心組合，存儲(chǔ)性能直達(dá) PCIe 5.0 頂峰，頂部則是天線的固定區(qū)域。

系統(tǒng)體驗(yàn)及算力測(cè)試

▼系統(tǒng)方面，技嘉 AI TOP ATOM 自帶經(jīng)過(guò)優(yōu)化的 Ubuntu 定制環(huán)境，在保障 AI 開(kāi)發(fā)兼容性的同時(shí)，內(nèi)置了全套生產(chǎn)力工具。

不過(guò)從系統(tǒng)也能看到，該機(jī)面向的用戶(hù)群體還是有很強(qiáng)針對(duì)性的。

▼內(nèi)置軟件從用于網(wǎng)頁(yè)瀏覽與查閱文獻(xiàn)的 Firefox，到支持工具自由擴(kuò)展的應(yīng)用商店，再到滿(mǎn)足文檔管理需求的內(nèi)置辦公軟件，AI TOP ATOM 真正做到了從“開(kāi)發(fā)實(shí)驗(yàn)”到“通用辦公”的平滑切換。

▼應(yīng)用市場(chǎng)

▼技嘉 AI TOP ATOM 在 AI 方面的優(yōu)勢(shì)還是很大的，主機(jī)內(nèi)嵌了 NVIDIA AI 軟件棧，提供各式工具、開(kāi)發(fā)框架與函數(shù)庫(kù)，以加速 AI 項(xiàng)目開(kāi)發(fā)流程。

▼支持多種模型下載

▼其次，主機(jī)還內(nèi)置了 AI TOP Utility ，這是技嘉專(zhuān)門(mén)為為本地 AI 訓(xùn)練而生的全方位解決方案，它不僅支持高達(dá) 236B 參數(shù)規(guī)模的 AI 模型，同時(shí)直觀的 GUI（圖形用戶(hù)界面）也讓用戶(hù)上手更輕松，操作更直觀，整個(gè)的操作流程像使用普通軟件一樣簡(jiǎn)單。

注意，這個(gè)并非開(kāi)機(jī)內(nèi)置軟件需要自己下載和調(diào)試。

▼同樣可以自由下載各種模型。

▼另外，技嘉的合作伙伴趨境科技提供了適配ATOM的自研大模型管理平臺(tái)，對(duì)于非專(zhuān)業(yè)用戶(hù)更容易上手。它內(nèi)置智譜GLM-4.5-air-106B大語(yǔ)言模型、GLM-4.6V-106B 多模態(tài)大模型及其他主流大模型與趨境自研的推理引擎、模型運(yùn)維平臺(tái)，開(kāi)機(jī)即用，無(wú)需耗時(shí)配置。此外還能作為 AutoGLM 的本地后端使用。

▼然后是模型管理中，可以看到預(yù)裝的一系列AI大模型，并對(duì)其進(jìn)行了整合分類(lèi)。

而且 AMaaS 支持智能調(diào)整 / 檢測(cè)模型，以及查看 Token 數(shù)。

比如圖中的 GLM-4.6V-106B 千億參數(shù)多模態(tài)大模型，這是首次在模型架構(gòu)中將Function Call（工具調(diào)用）能力原生融入視覺(jué)模型，打通從“視覺(jué)感知”到“可執(zhí)行行動(dòng)”（Action）的鏈路，為真實(shí)業(yè)務(wù)場(chǎng)景中的多模態(tài) Agent 提供統(tǒng)一的技術(shù)底座。

▼部署完成后，AMaaS 的實(shí)驗(yàn)場(chǎng)景可以對(duì)對(duì)話(huà)、文本、圖形等資料進(jìn)行測(cè)試

比如選擇模型“GLM-4.5-Air-nvfp4”

對(duì)話(huà)“桌子上有 3 只朝上的茶杯，每次翻轉(zhuǎn) 2 只，能否經(jīng)過(guò)若干次翻轉(zhuǎn)使得 3 只被子的杯口全部朝下呢？”

最后的結(jié)果是不可能（正確答案），每秒輸出 22.32 tokens

▼技嘉 AI TOP ATOM不僅提供強(qiáng)大的模型推理能力，還內(nèi)置了 ready-to-use 的開(kāi)發(fā)環(huán)境與實(shí)用工具，涵蓋從模型定制到智能應(yīng)用的完整鏈路：

比如趨境 · 智問(wèn)就是最常用的 AI 工具，它提供本地知識(shí)庫(kù)與AI對(duì)話(huà)功能，可直接管理私密科研資料與工作文檔，打造完全私有的智能辦公體驗(yàn)。真正是的使用界面是趨鏡·智問(wèn)，這里提供了對(duì)話(huà)、AI應(yīng)用、長(zhǎng)文寫(xiě)作、知識(shí)庫(kù)等多種場(chǎng)景

▼比如問(wèn)它“魂類(lèi)游戲的定義是什么，舉例幾款典型游戲”

結(jié)果出來(lái)的很快，定義也很清晰

桌面的“超算中心”

“小體積、大算力”是對(duì)技嘉 AI TOP ATOM 最直觀的評(píng)價(jià)，但其背后的意義遠(yuǎn)超硬件本身。

過(guò)去，涉足大模型意味著巨額的服務(wù)器投入與昂貴的算力租賃，今天，技嘉 AI TOP ATOM 將這種“大廠專(zhuān)利”濃縮進(jìn)了一個(gè)極致緊湊的機(jī)身中。正如幾十年前個(gè)人電腦將算力從機(jī)房帶向桌面一樣，ATOM 正在降低 AI 創(chuàng)新的準(zhǔn)入門(mén)檻。 憑借極致的能效比與穩(wěn)健的本地表現(xiàn)，AI TOP ATOM 不僅是一臺(tái)性能怪獸，更是通往“個(gè)人超算”未來(lái)的必經(jīng)之路。

最新評(píng)論