近日，索云科技（SOIN Technology）正式釋出 SOINAWE-RVE1300 企業級高效能 AI 推理伺服器。該產品由索云科技與奕斯偉計算（ESWIN Computing）聯合打造，搭載 4 張 EBC7702-P02 加速卡（合計 8 顆專用 AI 處理器），FP8 算力高達 1520 TFLOPs，並透過乙太網 Mesh 互聯架構構建 96GB 統一共享視訊記憶體池，可執行引數量高達 800 億的大語言模型，或同時執行多個 200 億引數模型。SOINAWE-RVE1300 深度整合索云自主研發的 AWE（Agentic Workflow Engine）引擎，全面相容信創 AI 算力加速卡與主流信創資料庫、中介軟體，以「資料不出域」的私有化部署能力，為車企等對資料安全與合規有嚴苛要求的企業客戶，提供開箱即用的企業 AI 數字底座。
產品概覽：4U 機架式，為推理而生
SOINAWE-RVE1300 採用 4U 機架式設計，整機搭載 4 張 EBC7702-P02 加速卡、共 8 顆專用 AI 處理器，透過基於標準乙太網的 Mesh 互聯架構組成統一共享記憶體池，配套雙路 Intel Xeon 宿主 CPU，配備 512GB DDR4-3200 ECC 記憶體與 4TB PCIe 4.0 NVMe 高速固態硬碟。靈活的乙太網網格拓撲可將視訊記憶體擴充套件至 96GB 共享記憶體池，顯著降低量化需求、提升模型精度，相容單使用者/單模型與多使用者/多模型場景，一臺裝置即可承載企業級大模型推理業務。
核心規格
| 規格項 | 引數 |
|---|---|
| AI 加速硬體 | 4 × EBC7702-P02（合計 8 顆 AI 處理器） |
| 總視訊記憶體容量 | 96GB（乙太網 Mesh 統一共享記憶體池） |
| 處理器 | 2 × Intel Xeon Silver 4309Y（整機 32 執行緒） |
| 記憶體 | 512GB DDR4-3200 ECC RDIMM |
| 儲存 | 4TB PCIe 4.0 NVMe 高速固態硬碟 |
| AI 算力 | FP8：1520 TFLOPs；FP16：520 TFLOPs |
| 網路介面 | 2 × 10G 電口 RJ45、專用 IPMI 遠端管理網口 |
| 外設介面 | 5 × USB3.1 Type-A、1 × USB3.1 Type-C、COM 串列埠、VGA 影片輸出 |
| 供電方案 | 1+1 冗餘 2200W 伺服器電源 |
| 作業系統 | Ubuntu 22.04 |
| 散熱方式 | 全風冷散熱 |
大模型推理實測效能
以下為 SOINAWE-RVE1300 在主流開源大模型上的實測推理效能（Batch=32，TP=8，8 顆 AI 處理器全量參與）：
| 模型 | 首字延遲 TTFT | 單路生成速度 | 整機吞吐 |
|---|---|---|---|
| Qwen 3 32B | 94 ms | 22.8 t/s | 729.6 t/s |
| QwQ 32B | 133 ms | 25.2 t/s | 806.4 t/s |
| Qwen 2.5 72B | 223 ms | 15.4 t/s | 492.8 t/s |
| DeepSeek R1 Distill Llama 3.3 70B | 159 ms | 15.9 t/s | 508.8 t/s |
| Llama 3.3 70B | 159 ms | 15.9 t/s | 508.8 t/s |
實測資料顯示，整機在 72B 級模型上仍可保持每秒 500 token 以上的穩定吞吐，32B 級模型整機吞吐超過 729 t/s，可從容支撐數百併發使用者的智慧問答、程式碼輔助與知識檢索等企業級應用。
六大產品優勢
· 高算力：深度學習算力高達 1520 TFLOPS（FP8），採用開源 RISC-V 指令集架構，可自行修改、自行維護；
· 安全可靠：軟體全棧開源，無閉源黑盒，程式碼可自行審計，滿足安全審查與合規要求；
· 擴充套件靈活：基於標準乙太網的互聯架構打破專用互聯壁壘，可從 1 臺擴充套件至數千臺，構建真正的 Exa-scale AI 超級計算機；
· 軟體靈活：提供從高層框架到「直達金屬」的完整軟體棧，兼顧開發便捷性與底層硬體的最佳化潛力，適配多元場景；
· 高效能：自研 BLOCKFP 資料格式在提供與傳統浮點相近精度的同時，將記憶體頻寬和儲存空間需求降低 50%，同等硬體條件下大幅提升資料處理速度；
· 高價效比：透過高計算密度、高能源效率及靈活的橫向擴充套件模式，有效降低大規模 AI 部署的硬體、功耗和全生命週期管理成本。
深度整合索云 AWE 引擎：從算力到智慧體的開箱即用
SOINAWE-RVE1300 出廠深度整合索云自主研發的 AWE（Agentic Workflow Engine）引擎。AWE 引擎能夠將企業的行業知識圖譜、業務流程邏輯與決策模式轉化為可複用的智慧體技術資產，結合 RVE1300 的高吞吐推理能力，企業無需從零搭建 AI 基礎設施，即可快速構建覆蓋研發、生產、經營分析等場景的企業級智慧體應用，實現「算力底座 + 智慧體引擎」的一體化交付。
全面相容信創生態：資料庫、中介軟體與應用伺服器
面向信創環境的企業客戶，SOINAWE-RVE1300 支援根據企業需求靈活配置信創 AI 算力加速卡，並已完成對主流信創資料庫、應用伺服器及訊息快取中介軟體的相容適配：
· 資料庫：Oracle、達夢、人大金倉（KingbaseES）、南大通用（GBase）、神舟通用（神通）、華為 GaussDB；
· 應用伺服器：東方通 TongWeb、寶蘭德 BES、金蝶 Apusic；
· 訊息與傳輸中介軟體：東方通 TongLINK/Q、Apache Kafka、RabbitMQ；
· 快取與分散式事務：Redis、Seata。
上述適配使 SOINAWE-RVE1300 可以無縫嵌入企業既有的信創 IT 架構，在國產化替代與智慧化升級兩條主線上同步推進，避免「重建煙囪、重複投資」。
面向企業資料安全與合規：資料不出域
對於車企、金融、政務等對資料主權有嚴苛要求的行業，模型能力再強，資料出了域就失去意義。SOINAWE-RVE1300 從架構層面給出確定性答案：
· 資料不出域：整機私有化部署在企業機房或指定資料中心，模型推理、向量檢索、知識庫匹配全部在域內完成，研發圖紙、工藝引數、經營資料等敏感資訊全程不出企業邊界；
· 全棧開源可審計：基於開源 RISC-V 指令集與全棧開源軟體，無閉源黑盒，企業可對程式碼自行審計，消除對境外雲服務與不可控供應鏈的依賴；
· 自主可控：晶片、整機、引擎、平臺全鏈條自主，配合信創資料庫與中介軟體生態，滿足關基行業的安全審查與信創合規要求；
· 精細許可權與審計：結合 AWE 引擎的許可權體系與審計日誌，實現「誰能用哪個模型、訪問哪些知識、留下哪些痕跡」的全鏈路可控。
以車企場景為核心：讓 AI 停在企業的地界裡
索云科技的眾多客戶來自汽車行業。SOINAWE-RVE1300 針對車企研發與經營場景進行了針對性設計：
· 研發知識庫與智慧問答：整車研發涉及數以萬計的技術標準、設計規範、試驗報告與歷史車型文件。RVE1300 可在車企內網本地部署研發知識庫智慧體，工程師用自然語言即可檢索標準條款、對比歷史方案、生成評審初稿——核心研發資料全程留在企業內網；
· 智慧編碼與研發提效：結合 AWE 引擎與智慧編碼助手，72B 級程式碼模型在域內為研發團隊提供程式碼生成、評審與重構建議，實測整機吞吐可支撐研發團隊規模化併發使用；
· 多模態質檢與設計評審：融合文字、影象、音訊等多種異構資料的複雜 AI 模型可在 RVE1300 上流暢執行，支撐外觀缺陷檢測、造型的多維度智慧評審等視覺類應用；
· AI 影片生成與營銷內容：從文字或影象快速生成高質量動態內容，滿足車型宣傳、營銷素材等場景的創作需求，未經發布的造型與營銷方案不出域；
· 海量圖紙與文件的結構化治理：依託 AWE 引擎將車企的行業知識圖譜與業務流程邏輯沉澱為智慧體資產，讓經驗隨平臺沉澱、隨組織複用。
三大核心應用場景
· 大語言模型（LLM）推理：支援萬億級引數規模的大語言模型高效能推理，為智慧對話、內容創作與知識問答提供堅實的算力底座；
· 多模態融合模型：高效處理融合文字、影象、音訊等多種異構資料型別的複雜 AI 模型，實現多維度資訊的統一理解與智慧分析；
· AI 影片生成：流暢執行最新的影片生成與處理模型，從文字或影象快速生成高質量動態內容，滿足影視、營銷等場景的創作需求。
SOINAWE-RVE1300 的釋出，標誌著索云科技「AI 算力硬體 + AWE 智慧體引擎 + 信創軟體生態」三位一體的企業 AI 數字底座完成關鍵拼圖。索云科技將持續攜手奕斯偉計算等生態夥伴，為車企及各行業企業客戶提供安全、合規、自主可控的智慧化基礎設施，讓企業的大模型應用真正跑在自己的資料中心、用自己的資料、守自己的邊界。