Googles nächste Generation TPUs verspricht eine Leistungssteigerung um das 4,7-fache
Bei der Google I/O Entwicklerkonferenz kündigte Google am Dienstag die nächste Generation seiner Tensor Processing Units (TPU) an, den AI-Chips seines Rechenzentrums. Diese sechste Generation von Chips, genannt Trillium, wird später in diesem Jahr starten.
„Google wurde für diesen Moment gebaut. Wir sind seit mehr als einem Jahrzehnt Wegbereiter für GPUs“, sagte Google CEO Sundar Pichai in einer Pressebesprechung vor der Konferenz.
Die Ankündigung der nächsten Generation von TPUs ist auf der I/O eine Art Tradition, auch wenn die Chips erst später im Jahr eingeführt werden. Wenn sie jedoch eintreffen, bieten sie laut Pichai eine Leistungssteigerung von 4,7-facher Rechenleistung pro Chip im Vergleich zur fünften Generation.
Google hat dies teilweise durch die Erweiterung der Matrix-Multiplikationseinheiten (MXUs) des Chips und durch eine erhöhte Taktfrequenz erreicht. Darüber hinaus hat Google auch die Speicherbandbreite für die Trillium-Chips verdoppelt.
Was vielleicht noch wichtiger ist, ist dass Trillium die dritte Generation von SparseCore bietet, die Google als „einen spezialisierten Beschleuniger für die Verarbeitung von ultragroßen Einbettungen, die in fortgeschrittenen Ranking- und Empfehlungsworkloads häufig vorkommen“ beschreibt. Dies soll laut Unternehmen den Trillium TPUs ermöglichen, Modelle schneller zu trainieren und mit geringerer Latenz zu bedienen.
Pichai bezeichnete die neuen Chips auch als die energieeffizientesten TPUs von Google bisher, was besonders wichtig ist, da die Nachfrage nach AI-Chips exponentiell zunimmt. „Der branchenweite Bedarf an ML-Computing hat sich in den letzten sechs Jahren um den Faktor 1 Million erhöht, was in etwa einer Verzehnfachung pro Jahr entspricht“, sagte er. Das ist ohne Investitionen zur Reduzierung des Energiebedarfs dieser Chips nicht nachhaltig. Google verspricht, dass die neuen TPUs um 67 % energieeffizienter sind als die Chips der fünften Generation.
Googles TPUs waren in letzter Zeit oft in verschiedenen Varianten erhältlich. Bisher hat Google keine weiteren Details zu den neuen Chips oder wie viel ihre Verwendung in der Google Cloud kosten wird, bereitgestellt.
Zu Beginn dieses Jahres kündigte Google auch an, einer der ersten Cloud-Anbieter zu sein, der Zugang zu Nvidias Next-Gen-Blackwell-Prozessoren bietet. Das bedeutet jedoch, dass Entwickler bis Anfang 2025 auf den Zugang zu diesen Chips warten müssen.
„Wir werden weiterhin in die Infrastruktur investieren, um unsere KI-Fortschritte zu unterstützen, und wir werden weiterhin neue Wege gehen“, sagte Pichai.
Wir starten einen AI-Newsletter! Melden Sie sich hier an, um ihn ab dem 5. Juni in Ihren Posteingängen zu erhalten.
