La rápida adopción de tecnologías avanzadas está marcando una nueva era en la industria tecnológica, impulsada en gran parte por la colaboración entre NVIDIA y Oracle Cloud Infrastructure (OCI). Estas tecnologías, que incluyen la inteligencia artificial generativa, modelos de lenguaje grande (LLMs) y gemelos digitales, están transformando cómo las empresas operan y se innovan.
Adopción de tecnologías avanzadas en la nube: NVIDIA y OCI
Las empresas están cada vez más interesadas en utilizar tecnologías avanzadas para mejorar su rendimiento y reducir costos. La inteligencia artificial generativa, junto con los modelos de lenguaje grandes y los gráficos avanzados, está en el centro de esta transformación.
Para capitalizar estas tecnologías, se requiere acceso a plataformas de computación acelerada que puedan manejar cargas de trabajo intensivas en datos. En respuesta a esta demanda, OCI ha lanzado recientemente instancias bare-metal con GPU NVIDIA L40S. También, ha anunciado la disponibilidad futura de una nueva máquina virtual acelerada por una sola GPU NVIDIA H100 Tensor Core.
Nuevas ofertas de GPU en Oracle Cloud Infrastructure (OCI)
Las nuevas instancias GPU de OCI están diseñadas para ofrecer un rendimiento excepcional en una variedad de aplicaciones. Desde la IA generativa hasta los gráficos avanzados.
La GPU NVIDIA L40S, por ejemplo, está equipada con núcleos Tensor de cuarta generación y soporta el formato de datos FP8. De este modo, la convierte en una herramienta poderosa para el entrenamiento y ajuste fino de LLMs y para la inferencia en aplicaciones de IA generativa.
Además, la L40S destaca en la aceleración gráfica y de medios. Con capacidades avanzadas para aplicaciones de visualización y gemelos digitales, gracias a su rendimiento en trazado de rayos y soporte para NVIDIA DLSS 3.
Rendimiento y aplicaciones del NVIDIA L40S GPU
El rendimiento de la GPU L40S en trazado de rayos es notable, superando a su predecesor por hasta 3.8 veces. Así la hace ideal para el desarrollo en la plataforma NVIDIA Omniverse.
Esta plataforma permite simulaciones 3D en tiempo real y la creación de gemelos digitales habilitados por IA. Esto para facilitar la visualización y optimización de productos y procesos antes de su producción.
La oferta de OCI incluye la forma de cómputo bare-metal BM.GPU.L40S.4, que integra cuatro GPUs L40S con memoria GDDR6, almacenamiento NVMe y núcleos de procesador Intel Xeon. De este manera, proporciona una solución potente para cargas de trabajo intensivas en datos.
Nuevas máquinas virtuales y capacidades de NVIDIA H100
OCI también está expandiendo su oferta con la máquina virtual VM.GPU.H100.1, que estará disponible próximamente. Esta VM, acelerada por una GPU NVIDIA H100 Tensor Core, está diseñada para ofrecer acceso rentable y a demanda a capacidades de IA generativa y HPC.
Con un rendimiento significativo en la generación de tokens y una configuración de almacenamiento y procesamiento robusta, la VM.GPU.H100.1 es adecuada para tareas de IA más pequeñas y la inferencia de LLMs.
Avances en el diseño y el rendimiento gracias a OCI y NVIDIA
OCI ha lanzado también la forma de cómputo BM.GPU.GH200 para pruebas, que presenta el Superchip NVIDIA Grace Hopper y una conexión de alta velocidad NVLink-C2C.
Esta tecnología proporciona un acceso a memoria de más de 600 GB y un rendimiento hasta 10 veces superior al de la GPU NVIDIA A100 para aplicaciones con grandes volúmenes de datos.
Además, el software NVIDIA NIM facilita la implementación de modelos de IA de alto rendimiento en OCI, optimizando el costo y la seguridad mediante contenedores preconstruidos.
La colaboración entre NVIDIA y Oracle Cloud Infrastructure (OCI) está marcando un hito en la forma en que las empresas abordan la computación avanzada y la creación de gemelos digitales.
Vía NVIDIA
