nvidia hat gerade $20B durchbrochen, um die Alternative eines Unternehmens zu Googles TPU-Chips zu erwerben

vieles ist hier zu entpacken, aber die Hauptaussage ist, dass Google einen Nerv getroffen hat, sie sind mit Asics auf dem richtigen Weg, was bedeutet, dass nvidias Marktdominanz nicht so ist, wie sie scheint, trotz des jahrzehntelangen Vorsprungs

wenn nvidia-GPUs tatsächlich zu hoch bewertet sind und Low-Latency-Asics speziell einen Markt für Inferenz erschließen können, stellen Google, Amazon und kleinere Startups eine Bedrohung dar.

ich glaube, dass die Inferenz letztlich eine größere Nachfragequelle für Rechenleistung sein wird als das Training. 2025 ist ein klares Signal dafür, da intelligenter Modelle nach dem Training freigeschaltet werden.

günstigere Tokens, niedrigere Latenz, kleinere Chips.