VMware Explore : NVIDIA anunció hoy que los principales fabricantes de sistemas del mundo ofrecerán servidores listos para IA que admiten VMware Private AI Foundation con NVIDIA , anunciado hoy por separado, para ayudar a las empresas a personalizar e implementar aplicaciones de IA generativa utilizando sus datos comerciales patentados.

Los servidores listos para IA de NVIDIA incluirán GPU NVIDIA L40S , DPU NVIDIA BlueField® ^-3 y software NVIDIA AI Enterprise para permitir a las empresas ajustar los modelos básicos de IA generativa e implementar aplicaciones de IA generativa como chatbots inteligentes, herramientas de búsqueda y resumen ^. Estos servidores también brindan infraestructura y software acelerados por NVIDIA para impulsar VMware Private AI Foundation con NVIDIA.

Los servidores con tecnología NVIDIA L40S de los principales fabricantes de sistemas mundiales (Dell Technologies, Hewlett Packard Enterprise y Lenovo) estarán disponibles a finales de año para acelerar la IA empresarial.

“Ha comenzado una nueva era informática”, dijo Jensen Huang, fundador y director ejecutivo de NVIDIA. “Las empresas de todas las industrias están compitiendo para adoptar la IA generativa. Con nuestro ecosistema de software y socios de sistemas líderes en el mundo, estamos llevando la IA generativa a las empresas del mundo”.

Los servidores listos para IA de NVIDIA son una plataforma ideal para las empresas que implementarán VMware Private AI Foundation con NVIDIA.

“La IA generativa está impulsando la transformación digital, y las empresas necesitan una solución totalmente integrada para crear aplicaciones de manera más segura que les permitan hacer avanzar su negocio”, dijo Raghu Raghuram, director ejecutivo de VMware. “A través de la experiencia combinada de VMware, NVIDIA y nuestros socios fabricantes de servidores, las empresas podrán desarrollar e implementar IA con privacidad, seguridad y control de datos”.

VMware Private AI Foundation: Potenciando la transformación de la IA generativa en la empresa

Los servidores listos para la IA de NVIDIA están diseñados para proporcionar infraestructura y software acelerados completos para las industrias que compiten por adoptar la IA generativa para una amplia gama de aplicaciones, incluido el descubrimiento de fármacos, descripciones de productos minoristas, asistentes virtuales inteligentes, fabricación simulación y detección de fraude.

Los servidores cuentan con NVIDIA AI Enterprise , el sistema operativo de la plataforma NVIDIA AI. El software proporciona seguridad y soporte empresarial listo para la producción para más de 100 marcos, modelos preentrenados, kits de herramientas y software, incluidos NVIDIA NeMo ™ para LLM, NVIDIA Modulus para simulaciones, NVIDIA RAPIDS ™ para ciencia de datos y NVIDIA Triton ™ Inference Server para AI de producción.

Diseñadas para manejar cargas de trabajo de IA complejas con miles de millones de parámetros, las GPU L40S incluyen Tensor Cores de cuarta generación y un motor de transformador FP8, que ofrece más de 1,45 petaflops de potencia de procesamiento de tensor y hasta 1,7 veces el rendimiento de entrenamiento en comparación con la GPU NVIDIA A100 Tensor Core.

Para aplicaciones de IA generativa, como chatbots inteligentes, asistentes, búsqueda y resumen, NVIDIA L40S permite un rendimiento de inferencia de IA generativa hasta 1,2 veces mayor que la GPU NVIDIA A100.

La integración de las DPU NVIDIA BlueField genera mayores velocidades al acelerar, descargar y aislar la tremenda carga informática de virtualización, redes, almacenamiento, seguridad y otros servicios de IA nativos de la nube.

Las SmartNIC NVIDIA ConnectX  -7 ofrecen descargas de hardware avanzadas y una latencia ultrabaja, lo que ofrece el mejor rendimiento escalable de su clase para cargas de trabajo de IA generativa con uso intensivo de datos.

Amplio ecosistema para acelerar las implementaciones empresariales de IA generativa

Los principales fabricantes de computadoras del mundo están construyendo servidores preparados para NVIDIA AI, incluidos los servidores Dell PowerEdge R760xa, HPE ProLiant Gen11 para VMware Private AI Foundation con NVIDIA y Lenovo ThinkSystem SR675 V3.

“La IA generativa es un catalizador para la innovación, que ayuda a resolver algunos de los desafíos más apremiantes del mundo”, dijo Michael Dell, presidente y director ejecutivo de Dell Technologies. “Las soluciones de IA generativa de Dell con servidores listos para IA de NVIDIA desempeñarán un papel fundamental para promover el progreso humano impulsando niveles de productividad sin precedentes y revolucionando la forma en que operan las industrias”.

“La IA generativa marcará el comienzo de una nueva escala de productividad para las empresas, desde impulsar chatbots y asistentes digitales hasta ayudar con el diseño y desarrollo de nuevas soluciones”, dijo Antonio Neri, presidente y director ejecutivo de HPE. “Nos complace continuar trabajando en estrecha colaboración con NVIDIA para presentar sus GPU y software en una variedad de soluciones de carga de trabajo de inferencia y ajuste empresarial que acelerarán las implementaciones de IA generativa”.

“Las empresas están ansiosas por adoptar la IA generativa para impulsar la transformación inteligente”, afirmó Yang Yuanqing, presidente y director ejecutivo de Lenovo. “En colaboración con NVIDIA y VMware, Lenovo está ampliando aún más su liderazgo en IA generativa y consolidando nuestra posición única para ayudar a los clientes en su camino hacia la IA”.

Disponibilidad

Los servidores listos para AI de NVIDIA con GPU L40S y DPU BlueField estarán disponibles a fin de año, y se espera que las instancias estén disponibles de los proveedores de servicios en la nube en los próximos meses.