Edge-Server der LLM-Serie

Short-Depth-Rackmount-Server für On-Premises-KI-Inferenz

Die LLM-Serie bietet Short-Depth-Rackmount-Edge-Computing für Private-AI- und Physical-AI-Implementierungen. Ausgestattet mit skalierbarer x86-Rechenleistung, NVIDIA RTX™ PRO GPU-Beschleunigung und flexibler Netzwerkkonnektivität ermöglicht sie eine dedizierte On-Premises-KI-Infrastruktur für lokale Inferenz, multimodale KI und intelligente Edge-Anwendungen – ganz ohne den Umfang und die Komplexität herkömmlicher Rechenzentrumsserver.

Skalierbare x86-Rechenleistung

Industrielle GPU-Beschleunigung

19"-Rackmount mit geringer Bautiefe

Langlebigkeit in Industriequalität

Datensicherheit auf Hardwareebene

Produkte:

Skalierbare x86-Rechenleistung

Wählen Sie zwischen Intel® Core™ oder AMD Ryzen™ & EPYC™ Plattformen, passend zu Ihren KI-Workloads.

Intel® Core™ Prozessoren

LLM-1U-RPL
  • Intel® Core™ der 14. / 13. / 12. Generation
  • Bis zu 24 Kerne / 32 Threads
  • Hybride Performance- und Efficient-Kerne
  • Workload-Optimierung mit Intel® Thread Director

AMD Ryzen™ & EPYC™ Prozessoren

LLM-2U-AM5 · LLM-3U-AM5
  • AMD EPYC™ 4005
  • AMD Ryzen™ 9000 Serie
  • Bis zu 16 Kerne / 32 Threads
  • PCIe Gen 5 und DDR5 Skalierbarkeit

Modellvergleich der LLM-Serie

Kategorie LLM-1U-RPL LLM-2U-AM5 LLM-3U-AM5
Formfaktor 1U 19-Zoll Short-Depth-Rackmount 2U 19-Zoll Short-Depth-Rackmount 3U 19-Zoll Short-Depth-Rackmount
Prozessor Intel® Core™ i9/i7/i5/i3 der 14. / 13. / 12. Generation, bis zu 65 W AMD Ryzen™ 9000 & EPYC™ 4005, bis zu 170 W AMD Ryzen™ 9000 & EPYC™ 4005, bis zu 170 W
Arbeitsspeicher Bis zu 64 GB DDR4-3200 Bis zu 192 GB DDR5-5600 Bis zu 192 GB DDR5-5600
PCIe-Erweiterung 1x PCIe Gen4 x16 oder 2x Gen4 x8 2x PCIe Gen5 x16
1x PCIe x4 (x1, Open-End)
1x PCIe x4 (x4, Open-End, geteilt mit M.2)
2x PCIe Gen5 x16
1x PCIe x4 (x1, Open-End)
1x PCIe x4 (x4, Open-End, geteilt mit M.2)
GPU-Positionierung Kompakte bis professionelle GPU-Beschleunigung Einzelne GPU, ausgewogene KI-Leistung Einzelne GPU mit größerer physischer Erweiterbarkeit
Netzwerk 3x 2,5 GbE 2x 10GbE SFP+, 2x GbE 2x 10GbE SFP+, 2x GbE
NVMe-Speicher 1x M.2 M-Key 2x M.2 M-Key 2x M.2 M-Key
SATA-Speicher 2x 2,5" Hot-Swap-SATA, RAID 0/1 4x 2,5" SATA-SSD-Laufwerksschächte (unterstützt RAID 0/1/5/10) 4x 2,5" oder 1x 3,5" SATA-SSD-Laufwerksschächte (unterstützt RAID 0/1/5/10)
OOB-Management — 1x RJ45 EBIO-OOB-I (optional) 1x RJ45 EBIO-OOB-I (optional)
Stromversorgung 2x 600 W, 1+1 redundant 1x 850 W 1x 850 W
Industrielüfter 3x Hot-Swap-Dual-Smart-Lüfter + CPU-Lüfter 4x Systemlüfter + CPU-Lüfter 3x Systemlüfter + CPU-Lüfter
Betriebstemperatur 0 °C bis 35 °C* 0 °C bis 35 °C* 0 °C bis 35 °C*
Idealer Einsatzbereich Kompakte Edge-KI-Inferenz Ausgewogene Private AI, LLM und RAG Leistungsstärkere KI und erweiterungsintensive Implementierungen

Von der Cloud zum Edge: Eine neue Ebene der KI-Infrastruktur

Da KI immer näher an den Edge rückt, benötigen Unternehmen nicht immer eine hochdichte Enterprise-Server-Infrastruktur. Die LLM-Serie schließt die Lücke zwischen GPU-Workstations und Enterprise-Servern mit kompakten (Short-Depth), GPU-beschleunigten Single-Node-Rackmount-Systemen, die speziell für Private AI, RAG und On-Premises-Inferenz entwickelt wurden.

Vorteile der Rackmount-Edge-Server der LLM-Serie

TCO optimieren

Stellen Sie dedizierte KI-Rechenleistung bereit – ohne die Kosten und Komplexität überdimensionierter Enterprise-Server-Infrastrukturen.

Optimierung bei begrenztem Platzangebot

Das Short-Depth-Rackmount-Design bringt GPU-beschleunigte KI in Umgebungen mit begrenztem Platzangebot

Bringen Sie KI näher an Ihre Daten

Führen Sie Private AI und Inferenz lokal aus – für maximale Datenkontrolle, geringere Abhängigkeit von der Cloud-Konnektivität und schnelleren Zugriff auf Betriebsdaten.

Fallstudie

Roboter-Kommissionierung der nächsten Generation: Taktile und visuelle Echtzeit-KI am Industrial Edge

Ein führender Anbieter von Lagerrobotik setzte den LLM Series Edge AI Server von Premio ein, um Echtzeit-Computer-Vision, taktiles Kraftfeedback und Greifplanung direkt an der Roboter-Arbeitszelle auszuführen – wodurch Cloud-Latenzen eliminiert und komplexe, sich überlappende Objekte zuverlässig gegriffen werden.

19-Zoll-Rackmount-Design mit geringer Bautiefe

Kompakte 1U-, 2U- und 3U-Rackmount-Designs bringen dedizierte KI-Rechenleistung in platzbegrenzte Edge- und On-Premises-Umgebungen – mit Short-Depth-Optionen, die den Platzbedarf bei der Installation im Vergleich zu herkömmlichen Servern mit voller Bautiefe deutlich reduzieren.

GPU-Beschleunigung für Generative-KI-Workloads

Unterstützt eine skalierbare Auswahl an industrietauglichen NVIDIA RTX PRO™ GPUs – von kompakten SFF-Karten bis hin zu GPUs in voller Bauhöhe und Baulänge (Full-Height, Full-Length) für unterschiedlichste KI-Leistungsanforderungen.

Industrielle GPU-Computer entdecken

Unterstützte GPUs für die LLM-Serie

Validierte professionelle NVIDIA-GPUs

  • Unterstützt LLM-1U-RPL
  • Unterstützt LLM-2U-AM5
  • Unterstützt LLM-3U-AM5

Flexibler lokaler Speicher

NVMe- und SATA-Speicheroptionen mit RAID-0/1-Unterstützung bieten flexible Kapazität und Datenredundanz für Modelldateien, Vektordatenbanken, Anwendungsdaten und lokale KI-Verarbeitung nahe am Edge.

Industrielle Netzwerkkonnektivität

Die LLM-Serie unterstützt RJ45-LAN-Konnektivität in den 1U-, 2U- und 3U-Konfigurationen sowie Dual-10GbE-SFP+ bei ausgewählten Modellen für skalierbare On-Premises-KI-Implementierungen.

Hochgeschwindigkeits-Arbeitsspeicher

Enorme Speicherkapazität und Bandbreite zum Vorhalten großer Modellgewichte und zur Verwaltung dynamischer KV-Caches für lange Kontexte. Da moderne generative KI-Workloads stark speicher- statt rechengebunden sind, bestimmt die Speicherleistung unmittelbar die Systemlatenz, Parallelität und Echtzeit-Generierungsgeschwindigkeit.

Erstklassige Sicherheitszertifizierungen

Die Server der LLM-Serie sind nach UL-, CE- und FCC-Standards für elektrische Sicherheit und elektromagnetische Verträglichkeit geprüft, was behördliche Zulassungen vereinfacht und die weltweite Bereitstellung beschleunigt. In Kombination mit Sicherheit auf Hardwareebene und industrietauglichen Komponenten sind sie auf langfristige Zuverlässigkeit in On-Premises-KI-Umgebungen ausgelegt.

Fernverwaltung für den 24/7-Serverbetrieb

Die Remote-Management-Lösungen von Premio bieten zentralen Zugriff und Kontrolle auf Hardwareebene für LLM-2U-AM5- und LLM-3U-AM5-Systeme, um die Serververfügbarkeit zu sichern, die Fehlerbehebung zu beschleunigen und Vor-Ort-Einsätze zu reduzieren.

In-Band- & Out-of-Band-Management

Schnellere Fehlerbehebung & Wiederherstellung

Reduzierte Ausfallzeiten