Désagrégation des ressources
NEC ExpEther
Alors que les charges de travail d’inférence IA, de traitement de données et de recherche partagée continuent de croître, les organisations investissent massivement dans l’infrastructure GPU. Cependant, les architectures centrées sur le serveur conventionnelles entraînent souvent une faible utilisation des GPU, une augmentation des besoins en puissance et en refroidissement, une faible efficacité d’investissement et une flexibilité opérationnelle limitée.
| Le Défi | Ce que la solution NEC CDI apporte |
|---|---|
| Les ressources GPU sont attachées statiquement aux serveurs, entraînant des GPU inactifs et une faible utilisation globale. | Pools et alloue dynamiquement les GPU aux serveurs en fonction de la demande de charge de travail, améliorant l’utilisation et l’efficacité opérationnelle. |
| L’augmentation de la consommation d’énergie des GPU et des exigences de refroidissement rendent l’expansion des centres de données difficile. | Sépare les GPU des serveurs de calcul, permettant un placement flexible dans des emplacements optimisés pour l’alimentation et la climatisation. |
| L'expansion de la capacité GPU nécessite souvent l'achat de serveurs GPU supplémentaires, augmentant les coûts d'investissement. | Permet une montée en charge indépendante des serveurs et des GPU, améliorant l’efficacité d’investissement et réduisant les achats matériels inutiles. |
| Les défaillances GPU ou serveur peuvent interrompre les services et réduire la disponibilité des ressources. | Soutient le pooling de ressources et les configurations réseau redondantes pour améliorer la disponibilité et la résilience opérationnelle. |
Cas d’utilisation
La solution NEC CDI répond aux défis courants d'infrastructure dans les environnements informatiques de recherche où les ressources GPU doivent être partagées, mises à l'échelle et exploitées efficacement.
Partage distant de GPU et d’appareils PCIe entre bâtiments ou centres de données
| Use Case | Setting | Ce que permet la solution NEC CDI |
|---|---|---|
| Pooling de ressources GPU à l'échelle du campus | Universités et institutions de recherche avec plusieurs départements partageant des ressources GPU | Les pools GPU partagés permettent une utilisation efficace, une gestion centralisée et une allocation équitable des ressources entre les organisations. |
| Allocation dynamique de GPU pour l’inférence IA et le traitement de données | Plateformes d’inférence IA, environnements de recherche IT partagés et charges de travail de traitement de données avec des demandes de ressources changeantes | Les ressources GPU peuvent être réaffectées en fonction de la demande de charge de travail, améliorant l’utilisation tout en réduisant les coûts d’infrastructure. |
| Partage distant de GPU et d’appareils PCIe entre bâtiments ou centres de données | Installations de recherche distribuées, campus multi-bâtiments et centres de données | Les serveurs de calcul et les GPU/PCIe peuvent être physiquement séparés tout en maintenant un accès PCIe d’environ natif via Ethernet. |
Fonctionnalités
NEC CDI Solution avec ExpEther technology permet aux GPU et autres périphériques PCIe d’être attribués, partagés et gérés dynamiquement à travers les environnements de recherche et d’IA, améliorant l’utilisation, la flexibilité et l’efficacité opérationnelle.
Composition flexible des ressources
- – Permet d'attribuer dynamiquement des GPU et des périphériques PCIe aux serveurs selon les exigences de charge de travail
- – Aucune modification d’application n’est requise, car les périphériques PCIe apparaissent comme des ressources localement attachées.
Désagrégation à l’échelle du centre de données
- – Sépare les serveurs et les dispositifs PCIe entre les pièces, les étages ou les bâtiments
- – Prend en charge la connectivité longue distance via la technologie ExpEther basée sur Ethernet pour un maximum de 2 km
Haute performance
- – Fournit un accès PCIe à faible latence sur Ethernet pour l’inférence IA et les cas d’utilisation d’accélérateurs partagés
- – Permet une utilisation efficace des accélérateurs haute performance
Haute disponibilité
- – Redondance à double voie pour la connectivité PCIe améliore la continuité du service
- – Le commutateur de chemin automatique aide à maintenir l’opération en cas de défaillance
Opérations simplifiées
- – Gestion centralisée des ressources via le logiciel NEC CDI Manager
- – Améliore la surveillance, l’allocation et la gestion du cycle de vie des ressources partagées
Architecture
La solution NEC CDI combine serveurs de calcul, réseau Ethernet, technologie ExpEther et pools de périphériques PCIe externes dans une infrastructure composable flexible. Les ressources peuvent être attribuées aux serveurs à la demande tout en restant gérées centralement.
| Serveur hôte | Exécute l’inférence IA, le traitement de données et les applications de recherche |
| Carte ExpEther | Étend la connectivité PCIe à travers les réseaux Ethernet |
| Commutateur Ethernet 100G | Fournit une interconnexion haute vitesse entre les serveurs et les pools de ressources |
| Boîte d'expansion IO | Hôtes GPU, SSD, FPGA et autres dispositifs PCIe |
| Gestionnaire NEC CDI | Fournit une surveillance centralisée et une gestion des ressources |
Contact
Pour en savoir plus sur la solution NEC CDI avec ExpEther technology et explorez comment le pooling de ressources GPU peut améliorer votre infrastructure IA et recherche, veuillez nous contacter.
Dans la même gamme
Voir la gamme →
NEC DPS4HPC
Assurer la fiabilité et la reproductibilité des résultats de simulation HPC est devenu une exigence critique tant dans la recherche académique que dans la recherche industrielle. Pourtant, en pratique, le processus qui a produit un résultat est souvent difficile à reconstituer — l’enregistrement manuel est chronophage, incomplet et sujet aux erreurs humaines.
NEC UDTS
À mesure que les volumes de données augmentent rapidement dans les environnements de recherche, le déplacement des données — et non la performance de calcul — est devenu le principal goulot d’étranglement. Les données de recherche, alimentées par l’observation, la simulation et l’IA, ont rapidement atteint l’échelle de TB à PB, mais l’infrastructure de transfert n’a pas suivi le rythme.
Ce produit vous intéresse ?
Demandez un devis : notre équipe confirme la disponibilité, la compatibilité et un plan de déploiement.