Huaxi Securities predice que el mercado mundial de software de IA alcanzará los 126.000 millones de dólares estadounidenses en 2025, con una tasa de crecimiento compuesta del 41,02 % de 2021 a 2025.
Detrás de la prosperidad de ChatGPT se encuentra el respaldo de una potencia informática astronómica.
Según las estimaciones, en términos de servidores de entrenamiento de IA, un solo entrenamiento de modelo de lenguaje grande impulsa la demanda de servidores de entrenamiento de IA a alrededor de 200 millones de dólares estadounidenses; en términos de servidores de inferencia de IA, como ChatGPT, puede impulsar la demanda de servidores de inferencia a alrededor de 4.500 millones de dólares estadounidenses en la etapa inicial.
Durante un tiempo, los ChatGPT surgieron uno tras otro, y la pista del servidor de IA detrás de ellos también comenzó a aumentar en consecuencia.
El poder de cómputo determina ChatGPT
La potencia informática es el motor central del modelo grande, y su fórmula de cálculo es muy simple: cuántos chips GPU pueden generar tanta potencia informática y la cantidad de chips GPU de alta gama puede afectar directamente la potencia informática.
**La potencia informática requerida por ChatGPT no es fija, sino que aumenta paso a paso. Cuanto más inteligente es ChatGPT, el precio detrás de esto es que se requiere más y más poder de cómputo. **
Según la especulación de los medios, se espera que el costo de capacitación de GPT-3 sea de $ 5 millones por vez, el modelo GPT-3 costará alrededor de $ 1,4 millones y el modelo PaLM de Google costará alrededor de $ 11,2 millones.
Según los ejecutivos de Microsoft, la supercomputadora de inteligencia artificial que brinda soporte de potencia informática para ChatGPT es una supercomputadora de primer nivel a gran escala construida por Microsoft con una inversión de mil millones de dólares en 2019. Está equipada con decenas de miles de GPU Nvidia A100. y más de 60 En total, cientos de miles de GPU Nvidia están implementadas en el centro de datos.
Con el fin de satisfacer la demanda cada vez mayor de potencia informática ChatGPT, Microsoft anunció que lanzará una serie de máquinas virtuales de IA escalables de Azure basadas en el último chip insignia H100 GPU de Nvidia y la tecnología de interconexión de red Quantum-2 InfiniBand de Nvidia para acelerar significativamente el desarrollo. de modelos de IA.
Parece que detrás de ChatGPT está lleno de Nvidia, Nvidia y Nvidia.
De hecho, Nvidia, como líder supremo del hardware, no solo ocupa la mayor parte del mercado en el mercado de consumo, sino que también es la opción número uno en el campo de los chips de servidor de IA.
Las cosas raras son más caras. En la actualidad, el chip insignia H100 de Nvidia ha aumentado su precio en casi 70.000 yuanes en una semana, y el precio es generalmente tan alto como 300.000 yuanes; Yuan aumentó hasta 90.000 yuanes, un aumento de más de 50%.
No solo no se puede comprar a precios más altos, sino que incluso Estados Unidos ha prohibido a Nvidia vender chips. En agosto del año pasado, el gobierno de EE. UU. emitió una política de control de exportaciones que prohibía a Nvidia vender los chips A100 y H100 a China.
Para no perder el mercado chino y cumplir con los controles de exportación de EE. UU., Nvidia lanzó posteriormente versiones castradas de rendimiento de los chips A800 y H800. Pero estos dos chips también fueron arrebatados por el mercado en escasez, y el precio también aumentó en consecuencia.
Lideradas por Baidu, Ali y Tencent, la mayoría de las empresas de Internet en China han anunciado su entrada en el modelo a gran escala. Según las estadísticas del mercado, desde ChatGPT, la cantidad de modelos grandes que se lanzarán en China este año ha superado los 10.
Si desea alcanzar el nivel de ChatGPT, necesita al menos 3000 chips A100, que son 270 millones de RMB a un precio de 90 000 por pieza para completar la implementación de un modelo grande; 10 modelos grandes necesitan 30 000 chips A100, 2700 millones de RMB .
Además del costo del entrenamiento posterior, los chips requeridos son aún más astronómicos. Pero a juzgar por el tiempo de entrega actual de Nvidia, no es fácil comprar suficientes chips.
En trance, la era de las tarjetas de minería llegó nuevamente.
Nvidia sentada en el aire otra vez
Cuando la moneda virtual estaba de moda en los últimos años, como proveedor de tarjetas gráficas necesarias para la minería, Nvidia obtuvo una enorme ganancia de 4.800 millones de dólares estadounidenses en unos pocos años. Ahora, confiando en ChatGPT para vivir una segunda vida, deje que la historia se repita nuevamente.
Ante el aumento de la demanda del mercado, Nvidia, que aprovechó la ola de IA para dar la vuelta, lanzó un servicio de arrendamiento de energía informática.
El 21 de marzo, en la conferencia GTC de 2023, el fundador y director ejecutivo de NVIDIA, Jen-Hsun Huang, lanzó NVIDIA DGX Cloud, que puede proporcionar a las empresas la infraestructura y el software necesarios para entrenar modelos avanzados de IA. Cada instancia de DGX Cloud está equipada con 8 GPU H100 o A100 de 80 GB. Las empresas pueden alquilar clústeres de DGX Cloud mensualmente en forma de arrendamiento de nube. El precio comienza en USD 37 000 por instancia por mes.
**¿Realmente no hay sustituto para Nvidia? ¿Por qué las empresas prefieren elegir el arrendamiento en lugar de otros fabricantes de chips de GPU? **
Según datos de IDC, los servidores GPU domésticos representarán más del 88,4 % del mercado de servidores domésticos en 2021, y los productos que utilizan NVIDIA representarán más del 80 %.
**El chip requerido por el modelo grande AI tiene requisitos más altos en la precisión del procesamiento de la información y la velocidad de la potencia informática.En el campo de la supercomputación, la capacidad informática de punto flotante de doble precisión FP64 es un indicador rígido de alta cálculos de potencia de cómputo. Los H100 y A100 de Nvidia son actualmente los únicos chips con estas capacidades. **
Las ventas de chips Nvidia no son lo único que está estancado en los EE. UU. La tecnología, los equipos y los materiales restringen la investigación y el desarrollo de las empresas chinas. Sin embargo, bajo las fuertes restricciones de los Estados Unidos, las empresas chinas todavía se quedaron sin varios caballos oscuros bajo presión.
Según el último "Informe de seguimiento del mercado de computación acelerada de China (segundo semestre de 2021)" publicado por IDC, la escala del mercado de servidores de inteligencia artificial de China alcanzará los 35.030 millones de yuanes en 2021, un aumento interanual del 68,6%.
En el campo de los chips GPU de nivel empresarial, el fabricante chino Biren Technology lanzará el chip BR100 en 2022, Tianshu Zhixin lanzará el chip Zhikai 100 y Cambrian lanzará el chip Siyuan 270.
Entre ellos, Biren Technology dijo que el BR100 tiene la potencia de cómputo más alta del mundo, y su potencia de cómputo máxima ha alcanzado más de tres veces la de los productos insignia en el mercado.La potencia de cómputo alcanza el nivel PFLOPS.
Aunque los datos son buenos, carece de la capacidad crucial para procesar FP64 y aún no puede reemplazar por completo a los dos hermanos Nvidia H100 y A100.
Además, la plataforma CUDA utilizada por Nvidia ya se ha convertido en el ecosistema de desarrollo de IA más utilizado y solo es compatible con la GPU basada en Tesla de Nvidia, que no puede ser reemplazada por chips domésticos en esta etapa.
Aunque los fabricantes de chips chinos se están poniendo al día en el campo de los chips de GPU, la brecha tecnológica y el cuello de botella en los Estados Unidos siguen siendo cuestiones clave, y llevará algún tiempo trabajar duro.
Más que un servidor de IA
No solo los servidores de IA y los chips de GPU, sino también el mercado de almacenamiento están creciendo con la ayuda de modelos a gran escala.
**Las condiciones operativas de ChatGPT incluyen datos de entrenamiento, algoritmos modelo y alto poder de cómputo. La infraestructura subyacente con alto poder de cómputo es la base para entrenamiento y datos masivos. **
La característica más obvia es que después de varias iteraciones de ChatGPT, la cantidad de parámetros aumentó de 117 millones a 175 mil millones, un aumento de casi dos mil veces, lo que también trae grandes desafíos para la informática y el almacenamiento.
**A medida que comienza la nueva era de la IA, se espera que la cantidad de generación, almacenamiento y procesamiento de datos globales aumente exponencialmente y que la memoria se beneficie significativamente. El almacenamiento computacional es una piedra angular importante de ChatGPT. Con la entrada de gigantes tecnológicos como Alibaba y Baidu en los proyectos de ChatGPT, la demanda general del mercado de almacenamiento informático aumentará aún más rápidamente. **
A medida que AIGC continúa floreciendo, Beijing, Shanghái, Guangzhou y otras regiones desarrolladas con economía digital también han introducido políticas para promover la construcción de centros informáticos inteligentes. Por ejemplo, Beijing propone construir un nuevo lote de centros de datos computacionales y centros de poder de cómputo de inteligencia artificial, y convertirlos en centros de poder de cómputo de inteligencia artificial para 2023; Shanghái propone construir un lote de cómputo de inteligencia artificial de alto rendimiento y alto rendimiento centros de energía, Promover la construcción de plataformas públicas de servicios de energía de cómputo, etc.
Y todos los ámbitos de la vida se enfrentarán al bautismo de ChatGPT Bajo la nueva ola de inteligencia artificial, las industrias relacionadas con la IA marcarán el comienzo de un amplio espacio de mercado.
Y las empresas chinas están obligadas a superar las limitaciones de los Estados Unidos y romper las cadenas de la injusticia.
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
El juego de poder informático detrás de ChatGPT Las empresas chinas necesitan urgentemente romper las cadenas de los Estados Unidos.
Huaxi Securities predice que el mercado mundial de software de IA alcanzará los 126.000 millones de dólares estadounidenses en 2025, con una tasa de crecimiento compuesta del 41,02 % de 2021 a 2025.
Detrás de la prosperidad de ChatGPT se encuentra el respaldo de una potencia informática astronómica.
Según las estimaciones, en términos de servidores de entrenamiento de IA, un solo entrenamiento de modelo de lenguaje grande impulsa la demanda de servidores de entrenamiento de IA a alrededor de 200 millones de dólares estadounidenses; en términos de servidores de inferencia de IA, como ChatGPT, puede impulsar la demanda de servidores de inferencia a alrededor de 4.500 millones de dólares estadounidenses en la etapa inicial.
Durante un tiempo, los ChatGPT surgieron uno tras otro, y la pista del servidor de IA detrás de ellos también comenzó a aumentar en consecuencia.
El poder de cómputo determina ChatGPT
La potencia informática es el motor central del modelo grande, y su fórmula de cálculo es muy simple: cuántos chips GPU pueden generar tanta potencia informática y la cantidad de chips GPU de alta gama puede afectar directamente la potencia informática.
**La potencia informática requerida por ChatGPT no es fija, sino que aumenta paso a paso. Cuanto más inteligente es ChatGPT, el precio detrás de esto es que se requiere más y más poder de cómputo. **
Según la especulación de los medios, se espera que el costo de capacitación de GPT-3 sea de $ 5 millones por vez, el modelo GPT-3 costará alrededor de $ 1,4 millones y el modelo PaLM de Google costará alrededor de $ 11,2 millones.
Según los ejecutivos de Microsoft, la supercomputadora de inteligencia artificial que brinda soporte de potencia informática para ChatGPT es una supercomputadora de primer nivel a gran escala construida por Microsoft con una inversión de mil millones de dólares en 2019. Está equipada con decenas de miles de GPU Nvidia A100. y más de 60 En total, cientos de miles de GPU Nvidia están implementadas en el centro de datos.
Con el fin de satisfacer la demanda cada vez mayor de potencia informática ChatGPT, Microsoft anunció que lanzará una serie de máquinas virtuales de IA escalables de Azure basadas en el último chip insignia H100 GPU de Nvidia y la tecnología de interconexión de red Quantum-2 InfiniBand de Nvidia para acelerar significativamente el desarrollo. de modelos de IA.
Parece que detrás de ChatGPT está lleno de Nvidia, Nvidia y Nvidia.
De hecho, Nvidia, como líder supremo del hardware, no solo ocupa la mayor parte del mercado en el mercado de consumo, sino que también es la opción número uno en el campo de los chips de servidor de IA.
Las cosas raras son más caras. En la actualidad, el chip insignia H100 de Nvidia ha aumentado su precio en casi 70.000 yuanes en una semana, y el precio es generalmente tan alto como 300.000 yuanes; Yuan aumentó hasta 90.000 yuanes, un aumento de más de 50%.
No solo no se puede comprar a precios más altos, sino que incluso Estados Unidos ha prohibido a Nvidia vender chips. En agosto del año pasado, el gobierno de EE. UU. emitió una política de control de exportaciones que prohibía a Nvidia vender los chips A100 y H100 a China.
Para no perder el mercado chino y cumplir con los controles de exportación de EE. UU., Nvidia lanzó posteriormente versiones castradas de rendimiento de los chips A800 y H800. Pero estos dos chips también fueron arrebatados por el mercado en escasez, y el precio también aumentó en consecuencia.
Lideradas por Baidu, Ali y Tencent, la mayoría de las empresas de Internet en China han anunciado su entrada en el modelo a gran escala. Según las estadísticas del mercado, desde ChatGPT, la cantidad de modelos grandes que se lanzarán en China este año ha superado los 10.
Si desea alcanzar el nivel de ChatGPT, necesita al menos 3000 chips A100, que son 270 millones de RMB a un precio de 90 000 por pieza para completar la implementación de un modelo grande; 10 modelos grandes necesitan 30 000 chips A100, 2700 millones de RMB .
Además del costo del entrenamiento posterior, los chips requeridos son aún más astronómicos. Pero a juzgar por el tiempo de entrega actual de Nvidia, no es fácil comprar suficientes chips.
En trance, la era de las tarjetas de minería llegó nuevamente.
Nvidia sentada en el aire otra vez
Cuando la moneda virtual estaba de moda en los últimos años, como proveedor de tarjetas gráficas necesarias para la minería, Nvidia obtuvo una enorme ganancia de 4.800 millones de dólares estadounidenses en unos pocos años. Ahora, confiando en ChatGPT para vivir una segunda vida, deje que la historia se repita nuevamente.
Ante el aumento de la demanda del mercado, Nvidia, que aprovechó la ola de IA para dar la vuelta, lanzó un servicio de arrendamiento de energía informática.
El 21 de marzo, en la conferencia GTC de 2023, el fundador y director ejecutivo de NVIDIA, Jen-Hsun Huang, lanzó NVIDIA DGX Cloud, que puede proporcionar a las empresas la infraestructura y el software necesarios para entrenar modelos avanzados de IA. Cada instancia de DGX Cloud está equipada con 8 GPU H100 o A100 de 80 GB. Las empresas pueden alquilar clústeres de DGX Cloud mensualmente en forma de arrendamiento de nube. El precio comienza en USD 37 000 por instancia por mes.
**¿Realmente no hay sustituto para Nvidia? ¿Por qué las empresas prefieren elegir el arrendamiento en lugar de otros fabricantes de chips de GPU? **
Según datos de IDC, los servidores GPU domésticos representarán más del 88,4 % del mercado de servidores domésticos en 2021, y los productos que utilizan NVIDIA representarán más del 80 %.
**El chip requerido por el modelo grande AI tiene requisitos más altos en la precisión del procesamiento de la información y la velocidad de la potencia informática.En el campo de la supercomputación, la capacidad informática de punto flotante de doble precisión FP64 es un indicador rígido de alta cálculos de potencia de cómputo. Los H100 y A100 de Nvidia son actualmente los únicos chips con estas capacidades. **
Las ventas de chips Nvidia no son lo único que está estancado en los EE. UU. La tecnología, los equipos y los materiales restringen la investigación y el desarrollo de las empresas chinas. Sin embargo, bajo las fuertes restricciones de los Estados Unidos, las empresas chinas todavía se quedaron sin varios caballos oscuros bajo presión.
Según el último "Informe de seguimiento del mercado de computación acelerada de China (segundo semestre de 2021)" publicado por IDC, la escala del mercado de servidores de inteligencia artificial de China alcanzará los 35.030 millones de yuanes en 2021, un aumento interanual del 68,6%.
En el campo de los chips GPU de nivel empresarial, el fabricante chino Biren Technology lanzará el chip BR100 en 2022, Tianshu Zhixin lanzará el chip Zhikai 100 y Cambrian lanzará el chip Siyuan 270.
Entre ellos, Biren Technology dijo que el BR100 tiene la potencia de cómputo más alta del mundo, y su potencia de cómputo máxima ha alcanzado más de tres veces la de los productos insignia en el mercado.La potencia de cómputo alcanza el nivel PFLOPS.
Aunque los datos son buenos, carece de la capacidad crucial para procesar FP64 y aún no puede reemplazar por completo a los dos hermanos Nvidia H100 y A100.
Además, la plataforma CUDA utilizada por Nvidia ya se ha convertido en el ecosistema de desarrollo de IA más utilizado y solo es compatible con la GPU basada en Tesla de Nvidia, que no puede ser reemplazada por chips domésticos en esta etapa.
Aunque los fabricantes de chips chinos se están poniendo al día en el campo de los chips de GPU, la brecha tecnológica y el cuello de botella en los Estados Unidos siguen siendo cuestiones clave, y llevará algún tiempo trabajar duro.
Más que un servidor de IA
No solo los servidores de IA y los chips de GPU, sino también el mercado de almacenamiento están creciendo con la ayuda de modelos a gran escala.
**Las condiciones operativas de ChatGPT incluyen datos de entrenamiento, algoritmos modelo y alto poder de cómputo. La infraestructura subyacente con alto poder de cómputo es la base para entrenamiento y datos masivos. **
La característica más obvia es que después de varias iteraciones de ChatGPT, la cantidad de parámetros aumentó de 117 millones a 175 mil millones, un aumento de casi dos mil veces, lo que también trae grandes desafíos para la informática y el almacenamiento.
**A medida que comienza la nueva era de la IA, se espera que la cantidad de generación, almacenamiento y procesamiento de datos globales aumente exponencialmente y que la memoria se beneficie significativamente. El almacenamiento computacional es una piedra angular importante de ChatGPT. Con la entrada de gigantes tecnológicos como Alibaba y Baidu en los proyectos de ChatGPT, la demanda general del mercado de almacenamiento informático aumentará aún más rápidamente. **
A medida que AIGC continúa floreciendo, Beijing, Shanghái, Guangzhou y otras regiones desarrolladas con economía digital también han introducido políticas para promover la construcción de centros informáticos inteligentes. Por ejemplo, Beijing propone construir un nuevo lote de centros de datos computacionales y centros de poder de cómputo de inteligencia artificial, y convertirlos en centros de poder de cómputo de inteligencia artificial para 2023; Shanghái propone construir un lote de cómputo de inteligencia artificial de alto rendimiento y alto rendimiento centros de energía, Promover la construcción de plataformas públicas de servicios de energía de cómputo, etc.
Y todos los ámbitos de la vida se enfrentarán al bautismo de ChatGPT Bajo la nueva ola de inteligencia artificial, las industrias relacionadas con la IA marcarán el comienzo de un amplio espacio de mercado.
Y las empresas chinas están obligadas a superar las limitaciones de los Estados Unidos y romper las cadenas de la injusticia.