El potencial de la GPU Nvidia H100 en la IA

Uno de los grandes beneficiados del boom de la Inteligencia Artificial (IA) es Nvidia, una empresa dedicada a la producción de tarjetas gráficas. Desde inicios del 2023, la empresa se ha vuelto la más importante en su área, con la GPU Nvidia H100 siendo uno de sus grandes productos.

Para el que no sepa, la GPU Nvidia H100 es una de las tarjetas gráficas más avanzadas de la industria. Esta está diseñada para acelerar y procesar tareas de computación de alto rendimiento y aplicaciones de IA. Y gracias a su potencial, se ha vuelto una de las GPU más utilizadas.

El boom de la IA gracias a Nvidia H100

Pero hay un problema que muchos están viendo en el horizonte: la posibilidad de una escasez en el mercado de tarjetas gráficas. Es esto por lo que es buena idea saber cómo está la situación del sector de la IA y el potencial que la GPU Nvidia H100 podrán tener en él.

Noviembre 2022. Sale al mercado ChatGPT, un chatbot creado por OpenAI, empresa dedicada al desarrollo de tecnología de IA. Este bot permite realizar una serie de tareas de forma rápida y sencilla, volviéndose un éxito total en los mercados.

Este hecho marcó el inicio a una revolución en la industria tecnológica que se mantiene a 11 meses de haber sido lanzado.

Y es que, gracias a ChatGPT, la industria de la IA dio un salto necesario. Las grandes empresas del sector tecnológico aceleraron el desarrollo de productos basados en IA, los inversionistas vieron el valor de estos productos y el uso de estas tecnologías se popularizó.

Al haber tanta inversión y demanda, la proliferación de empresas y productos se aceleró. Nadie se quiere quedar por fuera y todos quieren sacar su producto al mercado.

Mientras todo esto sucede hay un sector que se beneficia: la industria de las tarjetas gráficas.

El aumento de la demanda de productos de IA disparó a la demanda de tarjetas gráficas. Es aquí donde aparece Nvidia, una empresa californiana con 30 años en el sector que se volvió la proveedora principal de tarjetas gráficas para toda la industria tecnológica.

Leer más: Conoce los mejores prompts para invertir, trabajar y aprender con ChatGPT (2023)

Esto hizo que Nvidia creciera en capital, llegando a tocar los mil millones de dólares de cotización, disparando a su acción. Pero también generó un problema.

Y es que muchos ven con preocupación la capacidad que puede tener Nvidia para cubrir la demanda de tarjetas gráficas. Al ser la única que ha crecido con rápides, no tiene una competidora real por lo que se teme que se pueda dormir en los laureles.

Esto ha abierto una serie de debates interesantes y ha puesto el foco en el GPU Nvidia H100 para ver si esta logra resolver una serie de incógnitas que hay en el ambiente.

¿Qué es una tarjeta gráfica (GPU) antes de Nvidia H100?

El GPU es un componente del hardware que tiene la función de manejar y procesar las operaciones relacionadas con los gráficos y las visualizaciones de una computadora. Gracias a este la computadora puede procesar imágenes, gráficos y videos, liberando al CPU de estas tareas.

Ahora bien, cuando este componente entra en el mundo de la IA la cosa pasa más allá.

La explicación está en que los productos de IA necesitan tres cosas fundamentales: primero, la capacidad de realizar un aprendizaje profundo. La segunda, la capacidad de entrenar modelos. Y la tercera la capacidad para hacer predicciones.

Los GPU son capaces de hacer todo lo anterior de forma rápida y eficiente. Por ejemplo, gracias a sus múltiples núcleos de procesamiento, los GPU pueden realizar una serie de cálculos que son necesarios en las funciones de la IA.

De esta forma se entiende la importancia de los GPU en el mundo de la inteligencia artificial. Los GPU son el motor de estos productos y, en medio de una revolución del desarrollo, estos son más que necesarios.

Y como suele suceder en momentos como este, el desarrollo no se limita a la IA, sino que pasa a los GPU.

Así Nvidia ha ido lanzando varios modelos de sus tarjetas graficas y es aquí donde aparece la GPU Nvidia H100, el producto con el que Nvidia quiere dominar al mercado.

¿En qué radica el éxito de la GPU Nvidia H100?

Esta tarjeta gráfica llegó al mercado para mantenerle el ritmo al desarrollo que se está dando dentro del mundo de la IA. Basada en la arquitectura informática NVIDIA Hopper, esta tarjeta gráfica se aceleró la velocidad de procesamiento y mejoró la capacidad de aprendizaje y entrenamiento de los modelos de lenguaje extenso (LLM).

Así Nvidia logró un GPU capaz de ser hasta 9 veces más rápido en el entrenamiento de IA y hasta 30 veces más rápido para la inferencia o realizar predicciones. Todo esto en comparación con la GPU A100, la versión anterior, que fue la que utilizó OpenAI para desarrollar a ChatGPT.

Estas mejoras volvieron a este GPU una herramienta esencial para profesionales y empresas que buscan lo último en tecnología del mundo de la IA. Pero con cada mejora, llegan problemas.

Al ser una tarjeta gráfica tan eficiente, las empresas la están agregando en todos sus productos. Por ejemplo, Stability AI ya tiene un acuerdo para agregar al GPU Nvidia H100  para acelerar a todos sus proyectos que estén relacionados con modelos de video, 3D y multimodales

Así se está viendo una demanda gigantesca de estas tarjetas graficas, el problema está en que no se sabe si Nvidia va a poder darse abasto. Es aquí cuando se llega la pregunta del inicio ¿se viene una crisis?

Nvidia H100 y el escepticismo del mercado de la IA

Si se revisa el rendimiento de Nvidia en los mercados todo parece ser perfecto. La capitalización llegó a los mil millones, la acción se ha disparado, las ganancias no se frenan y las inversiones no dejan de llegar.

Pero las nubes negras no desaparecen, de hecho, se hacen cada vez más presentes, según reportes.

Para entender esto hay que salir de lo mainstream e irse a hechos menos noticiosos. Para esto hay que hablar de los startups, un mundo complejo. Anualmente salen miles al mercado, todas prometen maravillas y la mayoría desaparece, pero las que quedan son fundamentales y hacen un trabajo más grande que las empresas tradicionales.

Leer más: ¿Cómo generar prompts para Midjourney a través de ChatGPT?

Por ejemplo, OpenAI fue un startup que tuvo éxito. ChatGPT fue su home-run y desde entonces ya es una gran empresa. Así como esta hay varias en el mundo de la IA, una de ellas es Astria, una empresa de desarrollo de IA israelí.

Astria tiene un generador de imagen potenciado por una IA, algo parecido al famoso Midjourney. Aunque funciona similar, no genera los mismos resultados ¿por qué? Porque la empresa se ha encontrado con problemas para modernizar a su producto.

Y es que todo parte en la pandemia. Sí, hay que volver a esa época. Aunque parezca ya algo lejano, a mediados de 2021 se vivió una gran escasez de productos. Empresas como Apple no podían cubrir la demanda y el mundo entró en una crisis que parece haber quedado en el olvido.

Y se dice parece porque aún hay remanentes de esto y se consiguen en el mundo de las tarjetas gráficas. Ante el aumento acelerado de la demanda de este producto, la producción no se ha podido adaptar, obligando a las grandes empresas a priorizar a sus grandes compradores

¿Nvidia tendrá una competencia agresiva por los chips de IA?

Nvidia representa entre el 60 y el 70% de los productos que están en el mercado. Esto significa que cualquier problema que la empresa tenga en la producción de algún producto afectará a la industria.

Por esto empresas como la mencionada Astria buscan alternativas y aquí es cuando sale la competencia. Así ha vuelto AMD, la firma desarrolladora de gráficas Radeon que por un buen tiempo estuvo fuera del mundo de la IA.

Pero viendo cómo Nvidia había monopolizado el mercado, desde AMD decidieron competirle y compraron a Nod.ai., una empresa dedicada al desarrollo de tarjetas gráficas enfocadas en IA.

Leer más: ¿Cómo usar Bing? Guía del chatbot de Microsoft impulsado por IA

Si bien es temprano para confirmar qué sucederá, esto es un ejemplo de lo que viene, una diversificación de opciones. De darse, Nvidia no sería la única empresa en producir estas tarjetas gráficas y se vería si la valuación de la empresa se mantiene.

Esto fue reportado desde BeInCrypto en septiembre de este 2023, cuando Rob Arnott, fundador de Research Affiliates LLC, describió al rápido crecimiento de Nvidia como “una historia de libro de texto sobre el engaño del gran mercado”.

Según Arnott, explicó que se está dando una sobrevaluación del precio y que Nvidia no está teniendo el rendimiento perfecto que debería. Por ende, Arnott espera que, tarde o temprano, todo caiga, generando una crisis en el sector.

Aún así, el 90% de los inversores recomendó comprar acciones de la empresa, demostrando el optimismo que hay a corto plazo en ella.

Y es que el tener el GPU H100 como su producto estrella la siguen posicionando bien. El tema está en cuanto podrán aguantar sin que les salga competencia real. Se vienen unos meses movidos en el mundo de la IA.