Servidores Edge de la serie LLM

Servidores en rack de poca profundidad para inferencia de IA local (On-Prem)

La serie LLM ofrece computación en el borde en formato rack de poca profundidad para implementaciones de IA privada e IA física. Equipada con computación x86 escalable, aceleración por GPU NVIDIA RTX™ PRO y conectividad de red flexible, permite implementar una infraestructura de IA local dedicada para inferencia local, IA multimodal y aplicaciones inteligentes en el borde sin la escala ni la complejidad de los servidores tradicionales de centros de datos.

Procesamiento x86 escalable

Aceleración por GPU de grado industrial

Montaje en rack de 19" de poca profundidad

Longevidad de grado industrial

Seguridad de datos a nivel de hardware

Productos:

Procesamiento x86 escalable

Elija plataformas Intel® Core™ o AMD Ryzen™ & EPYC™ según las necesidades de su carga de trabajo de IA.

Procesadores Intel® Core™

LLM-1U-RPL
  • Intel® Core™ de 14.ª / 13.ª / 12.ª generación
  • Hasta 24 núcleos / 32 hilos
  • Arquitectura híbrida de núcleos de rendimiento y núcleos eficientes
  • Optimización de cargas de trabajo con Intel® Thread Director

Procesadores AMD Ryzen™ & EPYC™

LLM-2U-AM5 · LLM-3U-AM5
  • Serie AMD Ryzen™ 9000
  • AMD EPYC™ 4005 / 4004
  • Hasta 16 núcleos / 32 hilos
  • Escalabilidad PCIe Gen 5 y DDR5

Comparación de modelos de la serie LLM

Categoría LLM-1U-RPL LLM-2U-AM5 LLM-3U-AM5
Factor de forma Rack de 1U y 19 pulgadas de poca profundidad Rack de 2U y 19 pulgadas de poca profundidad Rack de 3U y 19 pulgadas de poca profundidad
Procesador Intel® Core™ i9/i7/i5/i3 de 14.ª / 13.ª / 12.ª generación, hasta 65 W AMD Ryzen™ 9000 y EPYC™ 4005/4004, hasta 170 W AMD Ryzen™ 9000 y EPYC™ 4005/4004, hasta 170 W
Memoria Hasta 64 GB DDR4-3200 Hasta 192 GB DDR5-5600 Hasta 192 GB DDR5-5600
Expansión PCIe 1x PCIe Gen4 x16 o 2x Gen4 x8 2x PCIe Gen5 x16
1x PCIe x4 (x1, extremo abierto)
1x PCIe x4 (x4, extremo abierto, compartido con M.2)
2x PCIe Gen5 x16
1x PCIe x4 (x1, extremo abierto)
1x PCIe x4 (x4, extremo abierto, compartido con M.2)
Posicionamiento de GPU Aceleración por GPU desde compacta hasta profesional GPU única, rendimiento de IA equilibrado GPU única con mayor capacidad de expansión física
Red 3x 2,5 GbE 2x 10GbE SFP+, 2x GbE 2x 10GbE SFP+, 2x GbE
Almacenamiento NVMe 1x M.2 M-Key 2x M.2 M-Key 2x M.2 M-Key
Almacenamiento SATA 2x SATA de 2,5" hot-swap, RAID 0/1 2x SATA interno de 2,5", RAID 0/1 1x 2,5" + 1x 3,5" SATA interno, RAID 0/1
Gestión OOB — 1x RJ45 EBIO-OOB-I (opcional) 1x RJ45 EBIO-OOB-I (opcional)
Fuente de alimentación 2x 600 W, redundancia 1+1 1x 850 W 1x 850 W
Ventiladores industriales 3x ventiladores inteligentes dobles hot-swap + ventilador de CPU 4x ventiladores de sistema + ventilador de CPU 3x ventiladores de sistema + ventilador de CPU
Temperatura de funcionamiento 0 °C a 35 °C* 0 °C a 35 °C* 0 °C a 35 °C*
Aplicación ideal Inferencia de IA en el borde compacta IA privada equilibrada, LLM y RAG IA de alto rendimiento e implementaciones con alta necesidad de expansión

De la nube al borde: un nuevo nivel de infraestructura de IA

A medida que la IA se acerca al borde, las organizaciones no siempre necesitan una infraestructura de servidores empresariales de alta densidad. La serie LLM cubre la brecha entre las estaciones de trabajo con GPU y los servidores empresariales mediante sistemas en rack de poca profundidad, de nodo único y acelerados por GPU, diseñados para IA privada, RAG e inferencia local.

Ventajas de los servidores Edge en rack de la serie LLM

Optimice el TCO

Implemente computación de IA dedicada sin el costo ni la complejidad de una infraestructura de servidores empresariales sobredimensionada.

Optimice el espacio en entornos reducidos

El diseño en rack de poca profundidad lleva la IA acelerada por GPU a entornos con limitaciones de espacio

Acerque la IA a sus datos

Ejecute IA privada e inferencia localmente para obtener un mayor control de los datos, menor dependencia de la conectividad en la nube y un acceso más rápido a los datos operativos.

Caso de estudio

Impulsando el picking robótico de próxima generación: IA táctil y de visión en tiempo real en el borde industrial

Un proveedor líder de robótica para almacenes implementó el servidor Edge AI de la serie LLM de Premio para ejecutar visión artificial en tiempo real, retroalimentación de fuerza táctil y planificación de agarre directamente en la celda de trabajo robótica, eliminando la latencia de la nube para recoger de forma fiable objetos complejos y superpuestos.

Diseño en rack de 19 pulgadas de poca profundidad

Los diseños compactos en rack de 1U, 2U y 3U llevan la computación de IA dedicada a entornos locales y de borde con limitaciones de espacio, con opciones de poca profundidad que reducen el espacio de instalación frente a los servidores convencionales de profundidad completa.

Aceleración por GPU para cargas de trabajo de IA generativa

Admite una gama escalable de GPUs de grado industrial NVIDIA RTX PRO™, desde tarjetas SFF compactas hasta GPUs de altura y longitud completas para diversas necesidades de rendimiento de IA.

Explorar ordenadores industriales con GPU

GPUs compatibles con la serie LLM

GPUs profesionales NVIDIA validadas

  • Compatible con LLM-1U-RPL
  • Compatible con LLM-2U-AM5
  • Compatible con LLM-3U-AM5

Almacenamiento local flexible

Las opciones de almacenamiento NVMe y SATA con soporte RAID 0/1 ofrecen capacidad flexible y redundancia de datos para archivos de modelos, bases de datos vectoriales, datos de aplicaciones y procesamiento de IA local cerca del borde.

Conectividad de red industrial

La serie LLM admite conectividad LAN RJ45 en las configuraciones de 1U, 2U y 3U, con doble puerto 10GbE SFP+ disponible en modelos seleccionados para implementaciones escalables de IA local.

Memoria de alta velocidad

Gran capacidad y ancho de banda de memoria para almacenar pesos de modelos pesados y gestionar cachés KV dinámicas en contextos largos. Dado que las cargas de trabajo modernas de IA generativa están fuertemente limitadas por la memoria más que por el cómputo, el rendimiento de la memoria determina directamente la latencia del sistema, la concurrencia y la velocidad de generación en tiempo real.

Certificaciones de seguridad de clase mundial

Los servidores de la serie LLM están probados conforme a los estándares UL, CE y FCC de seguridad eléctrica y compatibilidad electromagnética, lo que simplifica las aprobaciones regulatorias y acelera su implementación a nivel mundial. Combinados con seguridad a nivel de hardware y componentes de grado industrial, están diseñados para ofrecer fiabilidad a largo plazo en entornos de IA locales.

Gestión remota para operaciones de servidor 24/7

Las soluciones de gestión remota de Premio proporcionan acceso centralizado y control a nivel de hardware para los sistemas LLM-2U-AM5 y LLM-3U-AM5, ayudando a mantener la disponibilidad del servidor, acelerar la recuperación ante incidencias y reducir las intervenciones técnicas in situ.

Gestión en banda (In-Band) y fuera de banda (Out-of-Band)

Resolución de problemas y recuperación más rápidas

Reducción del tiempo de inactividad