NVIDIA lanza NIM para simplificar la implementación de modelos de IA
En su conferencia GTC de hoy, NVIDIA presentó NIM, una plataforma de software revolucionaria diseñada para integrar perfectamente modelos de IA personalizados y previamente entrenados en entornos de producción..
Además de una serie de anuncios realizados hoy en la conferencia GTC de NVIDIA, NIM aprovecha la experiencia de NVIDIA en inferencia y optimización de modelos de IA, proporcionando un enfoque simplificado para los desarrolladores. Al fusionar modelos de IA con un motor de inferencia optimizado y encapsularlos en contenedores accesibles como microservicios, NIM reduce significativamente el tiempo de implementación.
Lo que tradicionalmente habría llevado meses ahora se puede lograr rápidamente, sin la necesidad de contar con una amplia experiencia interna en IA.
Esta innovadora plataforma admite plantillas de entidades destacadas como NVIDIA, A121 y Getty Images, así como plantillas abiertas de gigantes tecnológicos como Google y Meta. La colaboración de NVIDIA con Amazon, Google y Microsoft tiene como objetivo integrar los microservicios de NIM en los principales servicios en la nube, mejorando la accesibilidad para los desarrolladores.
La columna vertebral de NIM: motores de inferencia NVIDIA
En el corazón de NIM se encuentra el servidor de inferencia Triton., así como TensorRT y TensorRT-LLM, lo que destaca el compromiso de NVIDIA de proporcionar una base sólida para las aplicaciones de IA. La plataforma también incluye microservicios especializados, como Riva para ajustes de voz y traducción, cuOpt para optimizaciones de enrutamiento y el modelo Earth-2 para simulaciones meteorológicas y climáticas.
Manuvir Das, director de informática empresarial de NVIDIA, destacó la eficiencia y la calidad de nivel empresarial que aporta NIM, lo que permite a los desarrolladores centrarse en la creación de aplicaciones empresariales sin tener que preocuparse por la gestión de modelos.
NIM demuestra la visión de NVIDIA de transformar las empresas en entidades impulsadas por IA, equipadas con un conjunto de microservicios de IA en contenedores. Con el apoyo de gigantes de la industria y un ecosistema de socios, NVIDIA NIM está preparada para revolucionar la forma en que se implementan y utilizan los modelos de IA en diversas industrias.
Jensen Huang, CEO de NVIDIA, destacó el potencial transformador de NIM, imaginando un futuro en el que todas las empresas aprovechen la IA para mejorar sus operaciones y su capacidad de innovación.