SOINTECH / INSIGHTS

SOIN Technology lance officiellement le serveur d'inférence IA haute performance d'entreprise SOINAWE-RVE1300, bâti sur le moteur AWE et l'écosystème Xinchuang

SOIN Technology (SOINTECH) a officiellement lancé le SOINAWE-RVE1300, un serveur d'inférence IA haute performance de niveau entreprise co-développé avec ESWIN Computing. Le système intègre quatre cartes accélératrices EBC7702-P02 (huit processeurs IA au total), délivre jusqu'à 1520 TFLOPs en FP8 et construit un pool de mémoire partagée unifié de 96 Go sur une interconnexion Ethernet Mesh, capable d'exécuter des modèles de langage atteignant 80 milliards de paramètres ou plusieurs modèles de 20 milliards simultanément. Profondément intégré au moteur AWE (Agentic Workflow Engine) développé par SOIN, totalement compatible avec les cartes accélératrices IA Xinchuang (innovation IT / souveraineté) ainsi qu'avec les bases de données et middleware nationaux courants, et livré en déploiement entièrement privé où les données ne quittent jamais le périmètre de l'entreprise, le RVE1300 offre aux entreprises soucieuses de sécurité — automobile en tête — une fondation numérique IA immédiatement opérationnelle.

SOINAWE-RVE1300, serveur d'inférence IA haute performance de niveau entreprise

Présentation du produit : 4U en rack, conçu pour l'inférence

Le SOINAWE-RVE1300 adopte une conception rack 4U et embarque quatre cartes accélératrices EBC7702-P02 totalisant huit processeurs IA. L'interconnexion Ethernet Mesh forme un pool de mémoire partagée unifié, adossé à un double CPU hôte Intel Xeon, à 512 Go de mémoire DDR4-3200 ECC et à 4 To de stockage NVMe PCIe 4.0. La topologie maillée Ethernet flexible porte la mémoire partagée jusqu'à 96 Go, réduisant sensiblement les besoins de quantification et améliorant la précision des modèles. Prenant en charge les scénarios mono-utilisateur/mono-modèle comme multi-utilisateurs/multi-modèles, une seule unité peut porter des charges d'inférence LLM à l'échelle de l'entreprise.

Spécifications clés

ÉlémentSpécification
Accélérateur IA4 × EBC7702-P02 (8 AI processors in total)
Mémoire totale (VRAM)96 GB (Ethernet Mesh unified shared memory pool)
CPU2 × Intel Xeon Silver 4309Y (32 threads in total)
Mémoire512 GB DDR4-3200 ECC RDIMM
Stockage4 TB PCIe 4.0 NVMe SSD
Puissance de calcul IAFP8: 1520 TFLOPs; FP16: 520 TFLOPs
Réseau2 × 10G RJ45, dedicated IPMI management port
Ports E/S5 × USB 3.1 Type-A, 1 × USB 3.1 Type-C, COM, VGA
Alimentation1+1 redundant 2200 W server PSU
Système d'exploitationUbuntu 22.04
RefroidissementAll air-cooled

Performances d'inférence LLM mesurées

Performances d'inférence mesurées de LLM open source courants sur le SOINAWE-RVE1300 (Batch=32, TP=8, les huit processeurs IA sollicités) :

ModèleTTFTVitesse par fluxDébit total
Qwen 3 32B94 ms22.8 t/s729.6 t/s
QwQ 32B133 ms25.2 t/s806.4 t/s
Qwen 2.5 72B223 ms15.4 t/s492.8 t/s
DeepSeek R1 Distill Llama 3.3 70B159 ms15.9 t/s508.8 t/s
Llama 3.3 70B159 ms15.9 t/s508.8 t/s

Les résultats montrent un débit soutenu supérieur à 500 tokens/s même sur des modèles de classe 72B, et plus de 729 t/s sur des modèles de classe 32B — de quoi servir confortablement des centaines d'utilisateurs simultanés en Q&A intelligent, assistance au codage et recherche de connaissances.

Six atouts produit

· Puissance de calcul : jusqu'à 1520 TFLOPS (FP8) de calcul d'apprentissage profond sur l'architecture ouverte du jeu d'instructions RISC-V, librement modifiable et maintenable ;

· Sûr et fiable : une pile logicielle entièrement open source sans boîtes noires propriétaires — le code peut être audité indépendamment pour répondre aux exigences de revue de sécurité et de conformité ;

· Extension flexible : l'interconnexion basée sur Ethernet standard brise les barrières des interconnexions propriétaires et passe de 1 à des milliers de nœuds pour bâtir un véritable supercalculateur IA à l'échelle Exa ;

· Souplesse logicielle : une pile logicielle complète, des frameworks de haut niveau jusqu'au métal, équilibrant commodité de développement et optimisation matérielle poussée ;

· Haute performance : le format BLOCKFP développé en interne offre une précision proche de la virgule flottante traditionnelle tout en réduisant de 50 % les besoins en bande passante mémoire et en stockage, accélérant fortement le traitement des données sur un matériel identique ;

· Excellent rapport coût-efficacité : forte densité de calcul, efficacité énergétique et mise à l'échelle horizontale flexible réduisent les coûts matériels, énergétiques et de gestion sur tout le cycle de vie des déploiements IA à grande échelle.

Intégration profonde avec le moteur AWE de SOIN : des agents prêts à l'emploi

Le SOINAWE-RVE1300 est livré avec le moteur AWE (Agentic Workflow Engine) de SOIN pré-intégré. AWE transforme les graphes de connaissances sectoriels, la logique des processus métier et les schémas de décision de l'entreprise en actifs technologiques agentiques réutilisables. Combinée à l'inférence à haut débit du RVE1300, cette intégration permet de construire rapidement des applications agentiques couvrant la R&D, la fabrication et l'analyse commerciale — sans bâtir l'infrastructure IA de zéro — pour une pile intégrée « fondation de calcul + moteur agentique ».

Compatibilité complète avec l'écosystème Xinchuang

Pour les entreprises opérant dans des environnements Xinchuang (innovation des applications IT), le SOINAWE-RVE1300 prend en charge une configuration flexible de cartes accélératrices IA Xinchuang et a achevé son adaptation de compatibilité avec les bases de données, serveurs d'applications et middleware de messagerie/cache nationaux courants :

· Bases de données : Oracle, DM (Dameng), KingbaseES, GBase, Shentong (OSCAR), Huawei GaussDB ;

· Serveurs d'applications : TongWeb, BES, Apusic ;

· Middleware de messagerie : TongLINK/Q, Apache Kafka, RabbitMQ ;

· Cache et transactions distribuées : Redis, Seata.

Ces adaptations permettent au RVE1300 de s'insérer sans couture dans l'architecture IT Xinchuang existante de l'entreprise, en faisant avancer de front la substitution nationale et la montée en intelligence, sans reconstruire des silos ni doubler l'investissement.

Sécurité et conformité des données d'entreprise : les données ne sortent jamais du périmètre

Pour les clients des secteurs automobile, financier et public aux exigences strictes de souveraineté des données, si compétent soit le modèle, la valeur disparaît dès que les données sortent du périmètre. Le SOINAWE-RVE1300 y répond au niveau de l'architecture :

· Données confinées : déployé entièrement sur site dans le centre de données de l'entreprise, tout l'inférence de modèles, la recherche vectorielle et l'interrogation des bases de connaissances se déroulent dans le périmètre — plans d'ingénierie, paramètres de procédés et données métier ne franchissent jamais la frontière de l'entreprise ;

· Open source et auditable : fondé sur le jeu d'instructions ouvert RISC-V et une pile logicielle entièrement open source sans boîtes noires propriétaires, permettant un audit indépendant du code et supprimant la dépendance aux services cloud étrangers et aux chaînes d'approvisionnement incontrôlables ;

· Autonomie pleine pile : puces, serveurs, moteur et plateforme sont tous maîtrisés de manière indépendante et, combinés à l'écosystème national de bases de données et de middleware, répondent aux exigences de revue de sécurité et de conformité Xinchuang des industries d'infrastructures critiques ;

· Permissions fines et audit : combiné au système de permissions et aux journaux d'audit du moteur AWE, un contrôle de bout en bout sur qui utilise quel modèle, accède à quelles connaissances et laisse quelles traces.

Conçu autour des scénarios automobile : garder l'IA dans l'entreprise

Nombre des clients de SOIN Technology viennent de l'industrie automobile, et le SOINAWE-RVE1300 est expressément conçu pour les scénarios de R&D et d'exploitation automobiles :

· Base de connaissances R&D et Q&A intelligent : le développement automobile mobilise des dizaines de milliers de normes techniques, spécifications de conception, rapports d'essais et documents de modèles anciens. Déployé dans l'intranet du constructeur, le RVE1300 alimente un agent local de base de connaissances R&D — les ingénieurs retrouvent les clauses de normes, comparent les conceptions historiques et ébauchent les documents de revue en langage naturel, tandis que les données R&D sensibles restent entièrement dans le réseau de l'entreprise ;

· Codage intelligent et efficacité R&D : combiné au moteur AWE et à un assistant de codage intelligent, un modèle de code de classe 72B sert l'équipe R&D sur site avec génération, revue et suggestions de refactoring, avec un débit mesuré soutenant l'usage simultané à l'échelle de l'organisation ;

· Contrôle qualité multimodal et revue de conception : des modèles IA complexes fusionnant texte, image et audio tournent aisément sur le RVE1300, prenant en charge la détection de défauts d'apparence et la revue de conception intelligente multidimensionnelle ;

· Génération vidéo IA et contenus marketing : génération de contenus dynamiques de haute qualité à partir de texte ou d'images pour la promotion véhicule et les supports marketing — les designs et campagnes inédits ne quittent jamais le périmètre ;

· Gouvernance structurée de masses de plans et de documents : le moteur AWE cristallise les graphes de connaissances automobile et la logique des processus métier en actifs agentiques réutilisables, si bien que l'expertise s'accumule avec la plateforme et se réutilise dans toute l'organisation.

SOINAWE-RVE1300 pour la R&D automobile intelligente : véhicules jumeaux numériques et clusters de calcul IA

Trois scénarios d'application clés

· Inférence LLM : inférence haute performance de grands modèles de langage, fournissant une fondation de calcul solide pour le dialogue intelligent, la création de contenus et le Q&A de connaissances ;

· Modèles multimodaux : traitement efficace de modèles IA complexes fusionnant texte, image et audio, unifiant la compréhension multidimensionnelle et l'analyse intelligente ;

· Génération vidéo IA : exécution fluide des derniers modèles de génération et de traitement vidéo, produisant rapidement des contenus dynamiques de haute qualité à partir de texte ou d'images pour le cinéma, la télévision et le marketing.

Avec le lancement du SOINAWE-RVE1300, SOIN Technology complète une pièce maîtresse de sa fondation numérique IA d'entreprise en trois volets : « matériel de calcul IA + moteur agentique AWE + écosystème logiciel Xinchuang ». SOIN Technology continuera de travailler avec des partenaires écosystémiques tels qu'ESWIN Computing pour offrir aux clients des industries comme l'automobile une infrastructure intelligente sûre, conforme et souveraine — pour que les applications LLM d'entreprise tournent réellement dans leurs propres centres de données, sur leurs propres données, dans leur propre périmètre.

Ce contenu provient de médias publics et ne représente pas les vues de Beijing SOIN Technology Co., Ltd.