Servidores Edge de la serie LLM
Servidores en rack de poca profundidad para inferencia de IA local (On-Prem)
La serie LLM ofrece computación en el borde en formato rack de poca profundidad para implementaciones de IA privada e IA física. Equipada con computación x86 escalable, aceleración por GPU NVIDIA RTX™ PRO y conectividad de red flexible, permite implementar una infraestructura de IA local dedicada para inferencia local, IA multimodal y aplicaciones inteligentes en el borde sin la escala ni la complejidad de los servidores tradicionales de centros de datos.
Productos:
Procesamiento x86 escalable
Elija plataformas Intel® Core™ o AMD Ryzen™ & EPYC™ según las necesidades de su carga de trabajo de IA.
Procesadores Intel® Core™
LLM-1U-RPL- Intel® Core™ de 14.ª / 13.ª / 12.ª generación
- Hasta 24 núcleos / 32 hilos
- Arquitectura híbrida de núcleos de rendimiento y núcleos eficientes
- Optimización de cargas de trabajo con Intel® Thread Director
Procesadores AMD Ryzen™ & EPYC™
LLM-2U-AM5 · LLM-3U-AM5- Serie AMD Ryzen™ 9000
- AMD EPYC™ 4005 / 4004
- Hasta 16 núcleos / 32 hilos
- Escalabilidad PCIe Gen 5 y DDR5
Comparación de modelos de la serie LLM
| Categoría | LLM-1U-RPL | LLM-2U-AM5 | LLM-3U-AM5 |
|---|---|---|---|
| Factor de forma | Rack de 1U y 19 pulgadas de poca profundidad | Rack de 2U y 19 pulgadas de poca profundidad | Rack de 3U y 19 pulgadas de poca profundidad |
| Procesador | Intel® Core™ i9/i7/i5/i3 de 14.ª / 13.ª / 12.ª generación, hasta 65 W | AMD Ryzen™ 9000 y EPYC™ 4005/4004, hasta 170 W | AMD Ryzen™ 9000 y EPYC™ 4005/4004, hasta 170 W |
| Memoria | Hasta 64 GB DDR4-3200 | Hasta 192 GB DDR5-5600 | Hasta 192 GB DDR5-5600 |
| Expansión PCIe | 1x PCIe Gen4 x16 o 2x Gen4 x8 | 2x PCIe Gen5 x16 1x PCIe x4 (x1, extremo abierto) 1x PCIe x4 (x4, extremo abierto, compartido con M.2) |
2x PCIe Gen5 x16 1x PCIe x4 (x1, extremo abierto) 1x PCIe x4 (x4, extremo abierto, compartido con M.2) |
| Posicionamiento de GPU | Aceleración por GPU desde compacta hasta profesional | GPU única, rendimiento de IA equilibrado | GPU única con mayor capacidad de expansión física |
| Red | 3x 2,5 GbE | 2x 10GbE SFP+, 2x GbE | 2x 10GbE SFP+, 2x GbE |
| Almacenamiento NVMe | 1x M.2 M-Key | 2x M.2 M-Key | 2x M.2 M-Key |
| Almacenamiento SATA | 2x SATA de 2,5" hot-swap, RAID 0/1 | 2x SATA interno de 2,5", RAID 0/1 | 1x 2,5" + 1x 3,5" SATA interno, RAID 0/1 |
| Gestión OOB | — | 1x RJ45 EBIO-OOB-I (opcional) | 1x RJ45 EBIO-OOB-I (opcional) |
| Fuente de alimentación | 2x 600 W, redundancia 1+1 | 1x 850 W | 1x 850 W |
| Ventiladores industriales | 3x ventiladores inteligentes dobles hot-swap + ventilador de CPU | 4x ventiladores de sistema + ventilador de CPU | 3x ventiladores de sistema + ventilador de CPU |
| Temperatura de funcionamiento | 0 °C a 35 °C* | 0 °C a 35 °C* | 0 °C a 35 °C* |
| Aplicación ideal | Inferencia de IA en el borde compacta | IA privada equilibrada, LLM y RAG | IA de alto rendimiento e implementaciones con alta necesidad de expansión |
De la nube al borde: un nuevo nivel de infraestructura de IA
A medida que la IA se acerca al borde, las organizaciones no siempre necesitan una infraestructura de servidores empresariales de alta densidad. La serie LLM cubre la brecha entre las estaciones de trabajo con GPU y los servidores empresariales mediante sistemas en rack de poca profundidad, de nodo único y acelerados por GPU, diseñados para IA privada, RAG e inferencia local.
Ventajas de los servidores Edge en rack de la serie LLM
Optimice el TCO
Implemente computación de IA dedicada sin el costo ni la complejidad de una infraestructura de servidores empresariales sobredimensionada.
Optimice el espacio en entornos reducidos
El diseño en rack de poca profundidad lleva la IA acelerada por GPU a entornos con limitaciones de espacio
Acerque la IA a sus datos
Ejecute IA privada e inferencia localmente para obtener un mayor control de los datos, menor dependencia de la conectividad en la nube y un acceso más rápido a los datos operativos.
Caso de estudio
Impulsando el picking robótico de próxima generación: IA táctil y de visión en tiempo real en el borde industrial
Un proveedor líder de robótica para almacenes implementó el servidor Edge AI de la serie LLM de Premio para ejecutar visión artificial en tiempo real, retroalimentación de fuerza táctil y planificación de agarre directamente en la celda de trabajo robótica, eliminando la latencia de la nube para recoger de forma fiable objetos complejos y superpuestos.
Diseño en rack de 19 pulgadas de poca profundidad
Los diseños compactos en rack de 1U, 2U y 3U llevan la computación de IA dedicada a entornos locales y de borde con limitaciones de espacio, con opciones de poca profundidad que reducen el espacio de instalación frente a los servidores convencionales de profundidad completa.
Aceleración por GPU para cargas de trabajo de IA generativa
Admite una gama escalable de GPUs de grado industrial NVIDIA RTX PRO™, desde tarjetas SFF compactas hasta GPUs de altura y longitud completas para diversas necesidades de rendimiento de IA.
Explorar ordenadores industriales con GPU
GPUs compatibles con la serie LLM
GPUs profesionales NVIDIA validadas
- Compatible con LLM-1U-RPL
- Compatible con LLM-2U-AM5
- Compatible con LLM-3U-AM5
Almacenamiento local flexible
Las opciones de almacenamiento NVMe y SATA con soporte RAID 0/1 ofrecen capacidad flexible y redundancia de datos para archivos de modelos, bases de datos vectoriales, datos de aplicaciones y procesamiento de IA local cerca del borde.
Conectividad de red industrial
La serie LLM admite conectividad LAN RJ45 en las configuraciones de 1U, 2U y 3U, con doble puerto 10GbE SFP+ disponible en modelos seleccionados para implementaciones escalables de IA local.
Memoria de alta velocidad
Gran capacidad y ancho de banda de memoria para almacenar pesos de modelos pesados y gestionar cachés KV dinámicas en contextos largos. Dado que las cargas de trabajo modernas de IA generativa están fuertemente limitadas por la memoria más que por el cómputo, el rendimiento de la memoria determina directamente la latencia del sistema, la concurrencia y la velocidad de generación en tiempo real.
Certificaciones de seguridad de clase mundial
Los servidores de la serie LLM están probados conforme a los estándares UL, CE y FCC de seguridad eléctrica y compatibilidad electromagnética, lo que simplifica las aprobaciones regulatorias y acelera su implementación a nivel mundial. Combinados con seguridad a nivel de hardware y componentes de grado industrial, están diseñados para ofrecer fiabilidad a largo plazo en entornos de IA locales.
Gestión remota para operaciones de servidor 24/7
Las soluciones de gestión remota de Premio proporcionan acceso centralizado y control a nivel de hardware para los sistemas LLM-2U-AM5 y LLM-3U-AM5, ayudando a mantener la disponibilidad del servidor, acelerar la recuperación ante incidencias y reducir las intervenciones técnicas in situ.