Ejecute IA generativa localmente con la serie LLM-1U-RPL: un servidor de IA de borde de 1U diseñado para la inferencia en tiempo real de modelos de lenguaje grandes (LLM). Impulsado por GPU avanzadas, admite modelos de hasta 40 mil millones de parámetros para un procesamiento de IA local, seguro y de baja latencia, sin dependencia de la nube. Implemente en sitios industriales, ubicaciones de campo o centros de datos empresariales para acercar la IA a sus datos. Ver resumen del producto...
- Factor de forma 1U de poca profundidad
- Procesador Intel® Core™ de 13.ª generación (hasta 65 W TDP)
- Admite hasta GPU NVIDIA® RTX™ PRO 4500 Blackwell y RTX™ 5000 Ada para aceleración de IA.
- E/S integrales para conectividad y expansión en el borde.
- Preparado para la ciberseguridad con protección a nivel de hardware.
- Certificaciones de clase mundial: UL, CE, FCC
Introducción al producto: Análisis en profundidad
En este seminario web, aprenderá cómo gestionar la transición de las implementaciones LLM en la nube a las locales y verá cómo la serie On-Prem LLM de Premio está diseñada específicamente para impulsar esta transición. Más información ...
Diseñado para el borde del centro de datos local.
El LLM-1U-RPL está diseñado estratégicamente para su implementación en el borde de la red local, sirviendo como la capa de computación final antes de que los datos del sensor se envíen a la nube. Ubicado en este punto crítico, el LLM-1U ofrece ventajas en inferencia de IA local, soberanía de datos, privacidad y confiabilidad. Más información
Diseño compacto, listo para montaje en rack de servidores.
Diseñada con un formato compacto de 1U de profundidad reducida, la serie LLM-1U se integra a la perfección en implementaciones con espacio limitado, como microcentros de datos, salas de control y gabinetes móviles.
Rendimiento en tiempo real en el borde
El LLM-1U-RPL aprovecha una arquitectura híbrida de alto rendimiento de Intel para optimizar las cargas de trabajo industriales intensivas, minimizando la latencia y maximizando la eficiencia.
Procesadores Intel® Core™ E de 13.ª generación
Hasta
24 núcleos y 32 subprocesos
Arquitectura híbrida de alto rendimiento con hasta
8 núcleos P y 16 núcleos E
Memoria DDR4 de doble canal
Hasta 64 GB
Compatibilidad con GPU para la aceleración de Gen AI
La serie LLM-1U-RPL admite GPU de clase estación de trabajo que permiten una inferencia de alto rendimiento para LLM y genAI locales, al tiempo que garantizan la eficiencia en la gestión térmica y el factor de forma.
- Hasta NVIDIA® RTX™ PRO 4500 Blackwell y RTX™ 5000 Ada
- Hasta 250 W
- GPU de clase estación de trabajo
Expansión PCIe 4.0 de alta velocidad para cargas de trabajo de IA
Además de la compatibilidad con GPU, la expansión PCIe 4.0 proporciona la flexibilidad necesaria para implementaciones de altas especificaciones que utilizan redes de alto rendimiento y otras tarjetas de expansión industriales adicionales.
• 1x PCIe 4.0 x16
para aceleradores de ancho de banda completo
• 2x PCIe 4.0 x8
Para tarjetas de expansión múltiples
Conectividad IIoT integral
Al consolidar datos de sensores diversos y de gran volumen, la serie LLM-1U proporciona la conectividad esencial para una integración perfecta con cámaras, sensores y dispositivos IIoT.
- 6 puertos USB 3.2 Gen2 (10 Gbps)
- 3 puertos RJ45 (2,5 GbE)
- 2x COM
Almacenamiento escalable y NVMe de alta velocidad
Para cargas de trabajo que requieren un rendimiento crítico, el LLM-1U-RPL admite NVMe de alta velocidad junto con bahías SATA intercambiables para facilitar el mantenimiento y el acceso a los datos.
- 1 ranura M.2 M-Key para SSD NVMe
- 2 bahías para unidades SATA de 2,5" con intercambio en caliente
Funcionamiento ininterrumpido las 24 horas del día, los 7 días de la semana, con alimentación y refrigeración redundantes.
La serie LLM-1U incorpora fuentes de alimentación redundantes y ventiladores de refrigeración inteligentes para garantizar un funcionamiento ininterrumpido y un mantenimiento simplificado en implementaciones críticas de IA en el borde de la red.
Fuente de alimentación de 600 W con intercambio en caliente (1+1)
Ventiladores intercambiables en caliente
Ciberseguridad a nivel de hardware para IA en el borde
La serie LLM-1U cuenta con múltiples niveles de protección a nivel de hardware para garantizar la seguridad física, la protección contra manipulaciones y la integridad de los datos, especialmente en implementaciones en el borde de la red.
Bisel de seguridad
Interruptor de detección de intrusión en el chasis
TPM 2.0
Certificaciones de seguridad de clase mundial
Ha superado rigurosas pruebas y validaciones para cumplir con los estándares de seguridad UL y las certificaciones de ciberseguridad IEC 62443-4-1. La serie LLM-1U ofrece tranquilidad y confianza en su implementación en entornos de misión crítica.
- IEC 62443-4-1
- UL
- CE, FCC