Bare Metal Serveur GPU
Aperçu
Bénéficiez de la puissance d’un serveur physique entièrement dédié grâce à notre service BMS GPU, conçu spécifiquement pour vos besoins les plus exigeants en intelligence artificielle (IA) et apprentissage automatique (ML).
Cas d’usages
Les serveurs Bare Metal Serveur GPU d’Orange Business sont conçus pour des charges critiques nécessitant isolation, performance et fiabilité. Ils répondent aux besoins suivants :
- Entraînement et inférence IA : adaptés aux modèles SLM, LLM, fine tuning et RAG (retrieval augmented generation).
- Traitement intensif de données : pour l’analyse massive en finance, santé, télécoms..
- Simulation et visualisation avancée : utile en R&D pour des calculs complexes.
- Sécurité et conformité : parfaits pour les environnements sensibles grâce à leur isolation matérielle.
- Développement en conditions réelles : test et validation d’applications en environnement dédié.
Caractéristiques clés
| Dédié à un Client | Chaque serveur Bare Metal Server GPU (BMS GPU) est exclusivement réservé à un seul client, garantissant des performances optimales et une totale confidentialité. |
| Sans Couche de virtualisation | Eliminez la virtualisation intermédiaire pour une expérience informatique plus directe et une utilisation maximale des ressources matérielles. |
| Installation d’OS et d’applications spécifiques | Préinstallation selon vos besoins spécifiques en systèmes d’exploitation et drivers GPU. |
| Hébergé et géré par Cloud Avenue | Notre équipe experte prend en charge l’hébergement et la gestion complète de votre serveur BMS GPU, vous permettant de vous concentrer sur votre cœur de métier sans vous soucier de l’infrastructure.Choisissez le service BMS GPU de Cloud Avenue pour une solution informatique robuste, flexible et entièrement adaptée à vos exigences spécifiques. |
Modèles disponibles
| Type de serveur | CPU & Cœurs | RAM DDR5 | Disque Système | Stockage NVMe | GPU | VRAM Total |
|---|---|---|---|---|---|---|
| BMS Serveur GPU 4*H100 PCIe | 2x Intel Xeon Gold 6548Y, 32c @ 2.5 GHz | 1536 GB (24×64) | 2x 480 GB RAID 1 | 2×7.68 TB RAID 1 | 4x NVIDIA H100 NVL 94GB | 376 GB |
| BMS Serveur GPU 2*L40S PCIe | 2x Intel Xeon Gold 6548Y, 32c @ 2.5 GHz | 1024 GB (16×64) | 2x 480 GB RAID 1 | 2×7.68 TB RAID 1 | 2x NVIDIA L40s 48GB | 96 GB |
| BMS Serveur GPU 4* L40S PCIe | 2x Intel Xeon Gold 6548Y, 32c @ 2.5 GHz | 1024 GB (16×64) | 2x 480 GB RAID 1 | 2×7.68 TB RAID 1 | 4x NVIDIA L40s 48GB | 192 GB |
| BMS Serveur GPU CRAY 8*H100 SXM | 2x Intel Xeon Platinum 8452Y, 36c @ 2.2 GHz | 4096 GB (64×64) | 2x 960 GB RAID 1 | 2×7.68 TB RAID 1 | 8x NVIDIA H100 NVL 80GB (SXM) | 752 GB |
https://cloud.orange-business.com/wp-content/uploads/2022/07/Cloud-Avenue-Fiche-Tarifaire.pdf
Serveurs GPU 4*H100, 2*L40S et L40S
Ces modèles prennent en charge GPU Direct Storage (GDS), permettant aux GPU d’accéder directement aux données stockées sur les disques NVMe, ce qui réduit considérablement la latence d’accès aux données et accélère les traitements lourds.
Serveur Cray
Les CPU proposés dans le BMS Cray sont conçus pour exceller dans les environnements hautement parallélisés grâce à leur architecture avancée et leur cache plus grand.
Les 8 cartes graphiques H100 NVL 94 GB (SXM) sont reliées entre elles par un bus SXM 5 inter GPU (protocole NVLink) avec une bande passante totale de 3,35 Tbps. Cela sert à garantir une communication ultra-rapide entre les GPU, essentielle pour l’entraînement distribué de grands modèles d’IA, la parallélisation efficace des calculs et la réduction des temps de latence lors du traitement de charges massives. Le serveur est doté d’InfiniBand, il possède une carte IB Monoport 400 Gbps MDR OSFP / GPU.
Système d’exploitation
Systèmes d’exploitation disponibles
| Nom de l’OS | Version |
| Ubuntu – LTS | 22.04, 24.04 |
| RHEL – Red Hat Enterprise Linux | 8.6, 9.0, 9.1, 9.2 |
- Ubuntu : Drivers NVIDIA préinstallés selon compatibilité.
- RHEL (Redhat) : Drivers NVIDIA préinstallés selon compatibilité.
Le service Bare Metal Server GPU n’inclut pas la licence du système d’exploitation. Cela signifie que le client doit fournir la licence en mode BYOL (Bring Your Own License).
Cloud Avenue réalise l’installation initiale du système d’exploitation. La configuration, la gestion, la maintenance et les mises à jour sont sous la responsabilité du Client après la livraison du serveur.
Cloud Avenue installe le système d’exploitation, mais la configuration, la gestion, la maintenance et les mises à jour sont sous votre responsabilité une fois le serveur livré.
Stockage
Chaque serveur BMS GPU se verra attribuer un stockage local configuré avec 2 disques NVMe de 7,68 TB . Ce disque local SSD sera préinstallé le système d’exploitation et utilisable pour stocker des données.
La capacité utilisable pour un client est divisée par 2, en raison de la réplication du mode RAID 1.
En option, une extension de disques 2×7.68 TB RAID 1 pourra être réalisée dans la limite des slots disponibles du BMS GPU.
Connectivité réseau
Chaque BMS utilise 2 cartes de 25 Gbps LACP pouvant donc accéder à un réseau de 50 Gbps maximum.
Par défaut, un VLAN est déjà configuré, mais il est possible d’avoir jusqu’à 6 VLAN maximum. Le plan d’adressage IP est imposé et la taille du réseau est de /24. L’IP publique est dans le tenant IaaS, ce qui signifie que les BMS ne sont pas directement raccordés à Internet, seulement via le tenant (NAT).
Dans le bon de commande, il faut préciser sur quel tenant et sur quel T1 il faut raccorder le BMS.
Accès au serveur
Chaque BMS utilise 2 cartes de 25 Gbps LACP pouvant donc accéder à un réseau de 50 Gbps maximum.
Après le déploiement du BMS GPU, toutes les informations essentielles (telles que l’adresse IP de configuration, le mot de passe root, etc.) sont envoyées au client via le portail client.
Les BMS GPUsont accessibles au client de plusieurs façons :
- Serveur de rebond : Les clients peuvent utiliser une machine virtuelle existante déjà déployée dans leur client ou créer un serveur de rebond dédié. Ils peuvent ensuite utiliser un shell sécurisé (SSH) ou un bureau à distance (RDP) pour accéder au BMS GPU.
- Accès en VPN SSL
- VPN fourni par la T1 : des VPN IPsec et L2VPN peuvent être activés sur Edge Gateway sans frais supplémentaires.
Sauvegarde
- Solution de backup locale : installée par le client ou fournie par l’application hébergée sur le serveur. La solution du client peut utiliser un espace dédié basé sur l’offre SharedNFS for storage.
Facturation et résiliation
- Facturation : Le BMS GPU est facturé pour un mois complet.
Cloud Avenue vous propose un abonnement mensuel fixe par serveur (et non variable au token ou à l’usage).
- Résiliation : Le BMS GPU peut être résilié à n’importe quel moment. Tout mois entamé sera facturé dans son intégralité.
Prérequis
Disposer d’un tenant Cloud Avenue.
Commande d’un serveur BMS GPU
Pour commander un serveur BMS GPU sur Cloud Avenue, il est nécessaire de prendre contact avec votre contact commercial habituel, qui vous aidera à remplir un bon de commande spécial BMS GPU.
Vous devrez fournir les informations suivantes:
| Nom de l’organisation | Affiché sur votre contrat |
| Type de BMS GPU | GPU 4*H100, GPU 2 x L40s ou GPU4 x L40s, 8H100 CRAY |
| Type de l’OS | Ubuntu /RedHat et leur version |
| Type de passerelle | Passerelle T0/T1 |
Après traitement de la commande par nos équipes, vous serez avisé de la mise à disposition de votre BMS GPU via un email.