Entschärft das die KI-Speicherkrise? Google stellt TurboQuant vor

Die Skalierung großer Sprachmodelle scheitert zunehmend an einer profanen Hürde: dem Arbeitsspeicher. Anders ausgedrückt: Speicherhersteller können mit hochperformantem Speicher (HBM) derart viel Geld verdienen, dass die Kapazitäten für gewöhnliches DRAM fehlen. Das merken alle beim Kauf entsprechender Hardware. Google-Forscher scheinen nun einen Weg gefunden zu haben, den Speicherhunger der KI deutlich zu reduzieren.