LLM-1U-RPL-Serie

1U Edge AI Server für On-Prem LLM-Workloads

Führen Sie generative KI lokal mit der LLM-1U-RPL-Serie aus – einem 1U-Edge-KI-Server für die Echtzeit-Inferenz großer Sprachmodelle (LLM). Dank fortschrittlicher GPUs unterstützt er Modelle mit bis zu 40 Milliarden Parametern für latenzarme, sichere und lokale KI-Verarbeitung ohne Cloud-Abhängigkeit. Setzen Sie ihn in Industrieanlagen, im Außendienst oder in Rechenzentren ein, um KI näher an Ihre Daten zu bringen. Produktübersicht ansehen ...

  • Kurzbauform 1U
  • Intel® Core™ Prozessor der 13. Generation (bis zu 65 W TDP)
  • Unterstützt bis zu NVIDIA® RTX™ PRO 4500 Blackwell und RTX™ 5000 Ada GPUs für KI-Beschleunigung
  • Umfassende E/A-Schnittstellen für Edge-Konnektivität und Erweiterung
  • Bereit für Cybersicherheit dank Hardware-Schutz
  • Weltklasse-Zertifizierungen: UL, CE, FCC

Gen-KI-Inferenz

Aktive Kühlung

PCIe 4.0-Erweiterung

GPU-Beschleunigung

Datensicherheit auf Hardwareebene

Produkteinführung im Detail

In diesem Webinar erfahren Sie, wie Sie den Wechsel von Cloud- zu On-Premise-LLM-Bereitstellungen erfolgreich gestalten und wie die On-Prem-LLM-Serie von Premio speziell für diesen Übergang entwickelt wurde. Mehr erfahren ...

Entwickelt für den Einsatz am Rand von On-Premise-Rechenzentren

Der LLM-1U-RPL ist strategisch für den Einsatz am Netzwerkrand konzipiert und dient als letzte Rechenschicht, bevor Sensordaten in die Cloud übertragen werden. An diesem kritischen Punkt positioniert, bietet der LLM-1U Vorteile in Bezug auf lokale KI-Inferenz, Datensouveränität, Datenschutz und Zuverlässigkeit. Mehr erfahren

On-Premises LLM Inference

Power LLM-Workloads lokal ausführen für Entscheidungsfindung mit geringer Latenz.

Datensouveränität und Datenschutz

Minimieren Sie die Offenlegung sensibler Daten in der Cloud und gewährleisten Sie die Einhaltung der Datenschutzbestimmungen.

Zuverlässigkeit in Industriequalität

Gewährleisten Sie kontinuierliche Verfügbarkeit und Leistung in unternehmenskritischen Edge-Umgebungen.

Kompaktes, für Serverracks geeignetes Design

Die LLM-1U-Serie wurde mit einem kompakten 1U-Formfaktor entwickelt und passt daher nahtlos in beengte Umgebungen wie Mikro-Rechenzentren, Kontrollräume und mobile Gehäuse.

Echtzeitleistung am Edge

Der LLM-1U-RPL nutzt eine leistungsstarke Hybridarchitektur von Intel, um rechenintensive industrielle Arbeitslasten zu optimieren und gleichzeitig die Latenz zu minimieren und die Effizienz zu maximieren.

Intel® Core™ E Prozessoren der 13. Generation

Bis zu
24 Kerne & 32 Threads

Leistungsstarke Hybridarchitektur mit bis zu
8 P-Kernen & 16 E-Kernen

Dual-Channel DDR4
Bis zu 64 GB

GPU-Unterstützung für Gen AI-Beschleunigung

Die LLM-1U-RPL-Serie unterstützt GPUs der Workstation-Klasse, die eine hohe Inferenzleistung für On-Premise-LLM und genAI ermöglichen und gleichzeitig Effizienz beim Wärmemanagement und Formfaktor gewährleisten.

  • Bis zu NVIDIA® RTX™ PRO 4500 Blackwell und RTX™ 5000 Ada
  • Bis zu 250 W
  • GPUs der Workstation-Klasse

Hochgeschwindigkeits-PCIe-4.0-Erweiterung für KI-Workloads

Zusätzlich zur GPU-Unterstützung bietet die PCIe 4.0-Erweiterung die nötige Flexibilität für anspruchsvolle Implementierungen mit Hochdurchsatznetzwerken und anderen industriellen Erweiterungskarten.

• 1x PCIe 4.0 x16

für Beschleuniger mit voller Bandbreite

• 2x PCIe 4.0 x8

Für mehrere Zusatzerweiterungskarten

Umfassende IIoT-Konnektivität

Durch die Konsolidierung vielfältiger und umfangreicher Sensordaten bietet die LLM-1U-Serie essentielle Konnektivität für die nahtlose Integration mit IIoT-Kameras, Sensoren und Geräten.

  • 6x USB 3.2 Gen2 (10 Gbit/s)
  • 3x RJ45 (2,5GbE)
  • 2x COM

Skalierbarer Speicher & Hochgeschwindigkeits-NVMe

Für leistungskritische Workloads unterstützt das LLM-1U-RPL neben austauschbaren SATA-Einschüben auch schnelle NVMe-SSDs für einfache Wartung und Datenzugriff.

  • 1x M.2 M-Key-Steckplatz für NVMe SSD
  • 2x Hot-Swap-fähige 2,5"-SATA-Laufwerksschächte

24/7-Betriebsbereitschaft durch redundante Stromversorgung und Kühlung

Die LLM-1U-Serie verfügt über redundante Netzteile und intelligente Lüfter, um einen unterbrechungsfreien Betrieb und eine vereinfachte Wartung bei kritischen Edge-KI-Implementierungen zu gewährleisten.

Hot-Swap-fähiges 600-W-Netzteil (1+1)

Im laufenden Betrieb austauschbare Lüfter

Hardwarebasierte Cybersicherheit für Edge-KI

Die LLM-1U-Serie bietet mehrfachen Schutz auf Hardwareebene für physische Sicherheit, Manipulationsschutz und Datenintegrität, insbesondere bei Edge-Bereitstellungen.

Sicherheitsblende

Gehäuseeinbruchserkennungsschalter

TPM 2.0

Weltklasse-Sicherheitszertifizierungen

Die LLM-1U-Serie wurde strengen Tests und Validierungen unterzogen, um die UL-Sicherheitsstandards und die IEC 62443-4-1-Cybersicherheitszertifizierungen zu erfüllen. Sie bietet zuverlässige Sicherheit und Zuverlässigkeit in unternehmenskritischen Umgebungen.

  • IEC 62443-4-1
  • UL
  • CE, FCC