Edge-Server der LLM-Serie
Short-Depth-Rackmount-Server für On-Premises-KI-Inferenz
Die LLM-Serie bietet Short-Depth-Rackmount-Edge-Computing für Private-AI- und Physical-AI-Implementierungen. Ausgestattet mit skalierbarer x86-Rechenleistung, NVIDIA RTX™ PRO GPU-Beschleunigung und flexibler Netzwerkkonnektivität ermöglicht sie eine dedizierte On-Premises-KI-Infrastruktur für lokale Inferenz, multimodale KI und intelligente Edge-Anwendungen – ganz ohne den Umfang und die Komplexität herkömmlicher Rechenzentrumsserver.
Produkte:
Skalierbare x86-Rechenleistung
Wählen Sie zwischen Intel® Core™ oder AMD Ryzen™ & EPYC™ Plattformen, passend zu Ihren KI-Workloads.
Intel® Core™ Prozessoren
LLM-1U-RPL- Intel® Core™ der 14. / 13. / 12. Generation
- Bis zu 24 Kerne / 32 Threads
- Hybride Performance- und Efficient-Kerne
- Workload-Optimierung mit Intel® Thread Director
AMD Ryzen™ & EPYC™ Prozessoren
LLM-2U-AM5 · LLM-3U-AM5- AMD EPYC™ 4005
- AMD Ryzen™ 9000 Serie
- Bis zu 16 Kerne / 32 Threads
- PCIe Gen 5 und DDR5 Skalierbarkeit
Modellvergleich der LLM-Serie
| Kategorie | LLM-1U-RPL | LLM-2U-AM5 | LLM-3U-AM5 |
|---|---|---|---|
| Formfaktor | 1U 19-Zoll Short-Depth-Rackmount | 2U 19-Zoll Short-Depth-Rackmount | 3U 19-Zoll Short-Depth-Rackmount |
| Prozessor | Intel® Core™ i9/i7/i5/i3 der 14. / 13. / 12. Generation, bis zu 65 W | AMD Ryzen™ 9000 & EPYC™ 4005, bis zu 170 W | AMD Ryzen™ 9000 & EPYC™ 4005, bis zu 170 W |
| Arbeitsspeicher | Bis zu 64 GB DDR4-3200 | Bis zu 192 GB DDR5-5600 | Bis zu 192 GB DDR5-5600 |
| PCIe-Erweiterung | 1x PCIe Gen4 x16 oder 2x Gen4 x8 | 2x PCIe Gen5 x16 1x PCIe x4 (x1, Open-End) 1x PCIe x4 (x4, Open-End, geteilt mit M.2) |
2x PCIe Gen5 x16 1x PCIe x4 (x1, Open-End) 1x PCIe x4 (x4, Open-End, geteilt mit M.2) |
| GPU-Positionierung | Kompakte bis professionelle GPU-Beschleunigung | Einzelne GPU, ausgewogene KI-Leistung | Einzelne GPU mit größerer physischer Erweiterbarkeit |
| Netzwerk | 3x 2,5 GbE | 2x 10GbE SFP+, 2x GbE | 2x 10GbE SFP+, 2x GbE |
| NVMe-Speicher | 1x M.2 M-Key | 2x M.2 M-Key | 2x M.2 M-Key |
| SATA-Speicher | 2x 2,5" Hot-Swap-SATA, RAID 0/1 | 4x 2,5" SATA-SSD-Laufwerksschächte (unterstützt RAID 0/1/5/10) | 4x 2,5" oder 1x 3,5" SATA-SSD-Laufwerksschächte (unterstützt RAID 0/1/5/10) |
| OOB-Management | — | 1x RJ45 EBIO-OOB-I (optional) | 1x RJ45 EBIO-OOB-I (optional) |
| Stromversorgung | 2x 600 W, 1+1 redundant | 1x 850 W | 1x 850 W |
| Industrielüfter | 3x Hot-Swap-Dual-Smart-Lüfter + CPU-Lüfter | 4x Systemlüfter + CPU-Lüfter | 3x Systemlüfter + CPU-Lüfter |
| Betriebstemperatur | 0 °C bis 35 °C* | 0 °C bis 35 °C* | 0 °C bis 35 °C* |
| Idealer Einsatzbereich | Kompakte Edge-KI-Inferenz | Ausgewogene Private AI, LLM und RAG | Leistungsstärkere KI und erweiterungsintensive Implementierungen |
Von der Cloud zum Edge: Eine neue Ebene der KI-Infrastruktur
Da KI immer näher an den Edge rückt, benötigen Unternehmen nicht immer eine hochdichte Enterprise-Server-Infrastruktur. Die LLM-Serie schließt die Lücke zwischen GPU-Workstations und Enterprise-Servern mit kompakten (Short-Depth), GPU-beschleunigten Single-Node-Rackmount-Systemen, die speziell für Private AI, RAG und On-Premises-Inferenz entwickelt wurden.
Vorteile der Rackmount-Edge-Server der LLM-Serie
TCO optimieren
Stellen Sie dedizierte KI-Rechenleistung bereit – ohne die Kosten und Komplexität überdimensionierter Enterprise-Server-Infrastrukturen.
Optimierung bei begrenztem Platzangebot
Das Short-Depth-Rackmount-Design bringt GPU-beschleunigte KI in Umgebungen mit begrenztem Platzangebot
Bringen Sie KI näher an Ihre Daten
Führen Sie Private AI und Inferenz lokal aus – für maximale Datenkontrolle, geringere Abhängigkeit von der Cloud-Konnektivität und schnelleren Zugriff auf Betriebsdaten.
Fallstudie
Roboter-Kommissionierung der nächsten Generation: Taktile und visuelle Echtzeit-KI am Industrial Edge
Ein führender Anbieter von Lagerrobotik setzte den LLM Series Edge AI Server von Premio ein, um Echtzeit-Computer-Vision, taktiles Kraftfeedback und Greifplanung direkt an der Roboter-Arbeitszelle auszuführen – wodurch Cloud-Latenzen eliminiert und komplexe, sich überlappende Objekte zuverlässig gegriffen werden.
19-Zoll-Rackmount-Design mit geringer Bautiefe
Kompakte 1U-, 2U- und 3U-Rackmount-Designs bringen dedizierte KI-Rechenleistung in platzbegrenzte Edge- und On-Premises-Umgebungen – mit Short-Depth-Optionen, die den Platzbedarf bei der Installation im Vergleich zu herkömmlichen Servern mit voller Bautiefe deutlich reduzieren.
GPU-Beschleunigung für Generative-KI-Workloads
Unterstützt eine skalierbare Auswahl an industrietauglichen NVIDIA RTX PRO™ GPUs – von kompakten SFF-Karten bis hin zu GPUs in voller Bauhöhe und Baulänge (Full-Height, Full-Length) für unterschiedlichste KI-Leistungsanforderungen.
Industrielle GPU-Computer entdecken
Unterstützte GPUs für die LLM-Serie
Validierte professionelle NVIDIA-GPUs
- Unterstützt LLM-1U-RPL
- Unterstützt LLM-2U-AM5
- Unterstützt LLM-3U-AM5
Flexibler lokaler Speicher
NVMe- und SATA-Speicheroptionen mit RAID-0/1-Unterstützung bieten flexible Kapazität und Datenredundanz für Modelldateien, Vektordatenbanken, Anwendungsdaten und lokale KI-Verarbeitung nahe am Edge.
Industrielle Netzwerkkonnektivität
Die LLM-Serie unterstützt RJ45-LAN-Konnektivität in den 1U-, 2U- und 3U-Konfigurationen sowie Dual-10GbE-SFP+ bei ausgewählten Modellen für skalierbare On-Premises-KI-Implementierungen.
Hochgeschwindigkeits-Arbeitsspeicher
Enorme Speicherkapazität und Bandbreite zum Vorhalten großer Modellgewichte und zur Verwaltung dynamischer KV-Caches für lange Kontexte. Da moderne generative KI-Workloads stark speicher- statt rechengebunden sind, bestimmt die Speicherleistung unmittelbar die Systemlatenz, Parallelität und Echtzeit-Generierungsgeschwindigkeit.
Erstklassige Sicherheitszertifizierungen
Die Server der LLM-Serie sind nach UL-, CE- und FCC-Standards für elektrische Sicherheit und elektromagnetische Verträglichkeit geprüft, was behördliche Zulassungen vereinfacht und die weltweite Bereitstellung beschleunigt. In Kombination mit Sicherheit auf Hardwareebene und industrietauglichen Komponenten sind sie auf langfristige Zuverlässigkeit in On-Premises-KI-Umgebungen ausgelegt.
Fernverwaltung für den 24/7-Serverbetrieb
Die Remote-Management-Lösungen von Premio bieten zentralen Zugriff und Kontrolle auf Hardwareebene für LLM-2U-AM5- und LLM-3U-AM5-Systeme, um die Serververfügbarkeit zu sichern, die Fehlerbehebung zu beschleunigen und Vor-Ort-Einsätze zu reduzieren.