xAI dilaporkan memiliki sekitar 550.000 GPU $NVDA H100 dan H200, tetapi hanya menggunakan sekitar 11% dari armada tersebut, setara dengan sekitar 60.000 GPU yang digunakan secara efektif

Menurut The Information, masalah utama bukanlah ketersediaan perangkat keras, tetapi efisiensi tumpukan perangkat lunak. Pada skala besar, waktu menganggur meningkat dengan cepat karena pelatihan terdistribusi, pipeline data, penjadwalan, dan sistem analisis menjadi lebih sulit untuk dikordinasikan
$META dan $GOOG dilaporkan mencapai pemanfaatan yang jauh lebih baik, sekitar 43% dan 46%, karena tumpukan perangkat lunak internal mereka lebih matang
Tujuan xAI adalah mencapai 50% pemanfaatan, tetapi tidak ada garis waktu yang diberikan. Jalur utama ke depan adalah orkestrasi infrastruktur yang lebih baik, perangkat lunak pelatihan, optimisasi pipeline data, dan manajemen beban kerja