Serie LLM-1U-RPL

Servidor Edge AI 1U para cargas de trabajo LLM locales

Ejecute IA generativa localmente con la serie LLM-1U-RPL: un servidor de IA de borde de 1U diseñado para la inferencia en tiempo real de modelos de lenguaje grandes (LLM). Impulsado por GPU avanzadas, admite modelos de hasta 40 mil millones de parámetros para un procesamiento de IA local, seguro y de baja latencia, sin dependencia de la nube. Implemente en sitios industriales, ubicaciones de campo o centros de datos empresariales para acercar la IA a sus datos. Ver resumen del producto...

  • Factor de forma 1U de poca profundidad
  • Procesador Intel® Core™ de 13.ª generación (hasta 65 W TDP)
  • Admite hasta GPU NVIDIA® RTX™ PRO 4500 Blackwell y RTX™ 5000 Ada para aceleración de IA.
  • E/S integrales para conectividad y expansión en el borde.
  • Preparado para la ciberseguridad con protección a nivel de hardware.
  • Certificaciones de clase mundial: UL, CE, FCC

Inferencia de IA de generación

Refrigeración activa

Expansión PCIe 4.0

Aceleración por GPU

Seguridad de datos a nivel de hardware

Introducción al producto: Análisis en profundidad

En este seminario web, aprenderá cómo gestionar la transición de las implementaciones LLM en la nube a las locales y verá cómo la serie On-Prem LLM de Premio está diseñada específicamente para impulsar esta transición. Más información ...

Diseñado para el borde del centro de datos local.

El LLM-1U-RPL está diseñado estratégicamente para su implementación en el borde de la red local, sirviendo como la capa de computación final antes de que los datos del sensor se envíen a la nube. Ubicado en este punto crítico, el LLM-1U ofrece ventajas en inferencia de IA local, soberanía de datos, privacidad y confiabilidad. Más información

Inferencia de LLM en las instalaciones

Ejecute las cargas de trabajo de LLM localmente para obtener información útil para la toma de decisiones con baja latencia.


Soberanía de datos y privacidad

Minimizar la exposición de datos confidenciales en la nube y garantizar el cumplimiento de la normativa de privacidad de datos.


Fiabilidad de grado industrial

Garantizar la disponibilidad y el rendimiento continuos en entornos periféricos de misión crítica.

Diseño compacto, listo para montaje en rack de servidores.

Diseñada con un formato compacto de 1U de profundidad reducida, la serie LLM-1U se integra a la perfección en implementaciones con espacio limitado, como microcentros de datos, salas de control y gabinetes móviles.

Rendimiento en tiempo real en el borde

El LLM-1U-RPL aprovecha una arquitectura híbrida de alto rendimiento de Intel para optimizar las cargas de trabajo industriales intensivas, minimizando la latencia y maximizando la eficiencia.

Procesadores Intel® Core™ E de 13.ª generación

Hasta
24 núcleos y 32 subprocesos

Arquitectura híbrida de alto rendimiento con hasta
8 núcleos P y 16 núcleos E

Memoria DDR4 de doble canal
Hasta 64 GB

Compatibilidad con GPU para la aceleración de Gen AI

La serie LLM-1U-RPL admite GPU de clase estación de trabajo que permiten una inferencia de alto rendimiento para LLM y genAI locales, al tiempo que garantizan la eficiencia en la gestión térmica y el factor de forma.

  • Hasta NVIDIA® RTX™ PRO 4500 Blackwell y RTX™ 5000 Ada
  • Hasta 250 W
  • GPU de clase estación de trabajo

Expansión PCIe 4.0 de alta velocidad para cargas de trabajo de IA

Además de la compatibilidad con GPU, la expansión PCIe 4.0 proporciona la flexibilidad necesaria para implementaciones de altas especificaciones que utilizan redes de alto rendimiento y otras tarjetas de expansión industriales adicionales.

• 1x PCIe 4.0 x16

para aceleradores de ancho de banda completo

• 2x PCIe 4.0 x8

Para tarjetas de expansión múltiples

Conectividad IIoT integral

Al consolidar datos de sensores diversos y de gran volumen, la serie LLM-1U proporciona la conectividad esencial para una integración perfecta con cámaras, sensores y dispositivos IIoT.

  • 6 puertos USB 3.2 Gen2 (10 Gbps)
  • 3 puertos RJ45 (2,5 GbE)
  • 2x COM

Almacenamiento escalable y NVMe de alta velocidad

Para cargas de trabajo que requieren un rendimiento crítico, el LLM-1U-RPL admite NVMe de alta velocidad junto con bahías SATA intercambiables para facilitar el mantenimiento y el acceso a los datos.

  • 1 ranura M.2 M-Key para SSD NVMe
  • 2 bahías para unidades SATA de 2,5" con intercambio en caliente

Funcionamiento ininterrumpido las 24 horas del día, los 7 días de la semana, con alimentación y refrigeración redundantes.

La serie LLM-1U incorpora fuentes de alimentación redundantes y ventiladores de refrigeración inteligentes para garantizar un funcionamiento ininterrumpido y un mantenimiento simplificado en implementaciones críticas de IA en el borde de la red.

Fuente de alimentación de 600 W con intercambio en caliente (1+1)

Ventiladores intercambiables en caliente

Ciberseguridad a nivel de hardware para IA en el borde

La serie LLM-1U cuenta con múltiples niveles de protección a nivel de hardware para garantizar la seguridad física, la protección contra manipulaciones y la integridad de los datos, especialmente en implementaciones en el borde de la red.

Bisel de seguridad

Interruptor de detección de intrusión en el chasis

TPM 2.0

Certificaciones de seguridad de clase mundial

Ha superado rigurosas pruebas y validaciones para cumplir con los estándares de seguridad UL y las certificaciones de ciberseguridad IEC 62443-4-1. La serie LLM-1U ofrece tranquilidad y confianza en su implementación en entornos de misión crítica.

  • IEC 62443-4-1
  • UL
  • CE, FCC