La révolution du texte vers la vidéo nécessite d'énormes bibliothèques GPU

L’émergence de vidéos générées par l’IA a déclenché une augmentation de la demande de GPU, avec des estimations suggérant que 720 000 GPU Nvidia H100 haut de gamme sont nécessaires pour soutenir la communauté des créateurs sur des plateformes comme TikTok et YouTube. Le processus de formation de tels modèles nécessite une immense puissance de calcul, dépassant même le GPT-4 et la génération d'images fixes. À mesure que l’adoption se développe, les demandes d’inférence dépasseront de plus en plus la formation, ce qui nécessitera un investissement matériel massif pour généraliser la génération texte-vidéo.

Text-to-Video Revolution Hinges on a Vast GPU Arsenal: Millions Required

La révolution du texte vers la vidéo repose sur un vaste arsenal de GPU : des millions sont nécessaires

The groundbreaking capabilities of text-to-video generators, exemplified by OpenAI's Sora, have sparked a surge of excitement and investment in Artificial Intelligence (AI). However, the realization of mainstream AI-generated video hinges on the availability of an unprecedented number of specialized processing units known as Graphics Processing Units (GPUs).

Les capacités révolutionnaires des générateurs de texte en vidéo, illustrées par Sora d'OpenAI, ont suscité une vague d'enthousiasme et d'investissement dans l'intelligence artificielle (IA). Cependant, la réalisation de vidéos grand public générées par l’IA dépend de la disponibilité d’un nombre sans précédent d’unités de traitement spécialisées appelées unités de traitement graphique (GPU).

Estimates by Factorial Funds reveal that a staggering 720,000 high-end Nvidia H100 GPUs would be necessary to cater to the vast creator communities of platforms like TikTok and YouTube. The gargantuan scale of this computational demand is evident in Sora's training process, which requires up to 10,500 powerful GPUs for a month and can generate only about 5 minutes of video per hour per GPU during inference.

Les estimations de Factorial Funds révèlent que 720 000 GPU Nvidia H100 haut de gamme seraient nécessaires pour répondre aux vastes communautés de créateurs de plateformes comme TikTok et YouTube. L'ampleur gargantuesque de cette demande de calcul est évidente dans le processus de formation de Sora, qui nécessite jusqu'à 10 500 GPU puissants pendant un mois et ne peut générer qu'environ 5 minutes de vidéo par heure et par GPU pendant l'inférence.

As illustrated by the data, training text-to-video models demands significantly more computing power than training massive language models like GPT4 or even generating static images. Moreover, as AI models like Sora gain wider adoption, the computation required for inference - the process of using the trained model to generate new videos - will eclipse the computation required for initial training.

Comme l'illustrent les données, la formation de modèles texte-vidéo nécessite beaucoup plus de puissance de calcul que la formation de modèles de langage massifs comme GPT4 ou même la génération d'images statiques. De plus, à mesure que les modèles d'IA comme Sora sont de plus en plus adoptés, le calcul requis pour l'inférence (le processus d'utilisation du modèle entraîné pour générer de nouvelles vidéos) éclipsera le calcul requis pour la formation initiale.

To put this into perspective, Nvidia shipped approximately 550,000 H100 GPUs in 2023. Statistics from Statista indicate that the twelve largest customers utilizing Nvidia's H100 GPUs collectively possess 650,000 of these cards, with tech giants Meta and Microsoft accounting for 300,000 of them.

Pour mettre cela en perspective, Nvidia a expédié environ 550 000 GPU H100 en 2023. Les statistiques de Statista indiquent que les douze plus gros clients utilisant les GPU H100 de Nvidia possèdent collectivement 650 000 de ces cartes, les géants de la technologie Meta et Microsoft en représentant 300 000.

Assuming a cost of $30,000 per card, the astronomical sum of $21.6 billion would be required to procure the GPUs necessary to make Sora's vision of AI-generated text-to-video mainstream. This figure nearly matches the entire market capitalization of AI tokens at present.

En supposant un coût de 30 000 dollars par carte, la somme astronomique de 21,6 milliards de dollars serait nécessaire pour acquérir les GPU nécessaires pour généraliser la vision de Sora de la conversion texte-vidéo générée par l'IA. Ce chiffre correspond actuellement à presque la totalité de la capitalisation boursière des jetons IA.

The procurement of such a vast quantity of GPUs presents a formidable challenge due to supply constraints and escalating demand for AI-driven applications. Notably, Nvidia is not the sole player in the GPU market. Rival chipmaker AMD offers competitive products, with investors generously rewarding the company for its innovations, propelling its stock from the $2 range in 2012 to over $175 today.

L’acquisition d’une si grande quantité de GPU présente un formidable défi en raison des contraintes d’approvisionnement et de la demande croissante d’applications basées sur l’IA. Notamment, Nvidia n’est pas le seul acteur sur le marché des GPU. Le fabricant de puces rival AMD propose des produits compétitifs, les investisseurs récompensant généreusement l'entreprise pour ses innovations, propulsant son action de 2 dollars en 2012 à plus de 175 dollars aujourd'hui.

Alternative options exist for outsourcing computing power to GPU farms, such as Render (RNDR) and Akash Network (AKT). However, the majority of GPUs on these networks consist of retail-grade gaming GPUs, significantly less potent than Nvidia's server-grade H100 or AMD's comparable offerings.

Des options alternatives existent pour externaliser la puissance de calcul vers des fermes GPU, telles que Render (RNDR) et Akash Network (AKT). Cependant, la majorité des GPU sur ces réseaux sont des GPU de jeu de qualité commerciale, nettement moins puissants que le H100 de qualité serveur de Nvidia ou les offres comparables d'AMD.

Despite these challenges, the tantalizing promise of text-to-video generation, as envisioned by Sora and other protocols, will necessitate a herculean hardware investment. While the potential for revolutionizing the creative workflow in industries like Hollywood is undeniable, it is crucial to temper expectations regarding the imminent mainstream adoption of AI-generated video.

Malgré ces défis, la promesse alléchante de la génération texte-vidéo, telle qu'envisagée par Sora et d'autres protocoles, nécessitera un investissement matériel herculéen. Même si le potentiel de révolution du flux de travail créatif dans des secteurs comme Hollywood est indéniable, il est crucial de tempérer les attentes concernant l’adoption grand public imminente de la vidéo générée par l’IA.

At present, the industry faces a pressing need for a substantial increase in chip production to meet the burgeoning demand for AI-driven applications. Until this supply gap is addressed, the widespread availability of AI-generated video will remain an elusive goal.

À l’heure actuelle, l’industrie est confrontée à un besoin urgent d’augmenter considérablement la production de puces pour répondre à la demande croissante d’applications basées sur l’IA. Tant que ce déficit d’offre ne sera pas comblé, la disponibilité généralisée de la vidéo générée par l’IA restera un objectif hors de portée.