Google introduceert achtste generatie TPU’s voor AI-training en inferentie
Dit artikel is gebaseerd op een persbericht van Google
Google heeft tijdens Google Cloud Next de achtste generatie Tensor Processing Units aangekondigd, bestaande uit twee gespecialiseerde varianten: TPU 8t en TPU 8i. Deze nieuwe chips zijn ontwikkeld om zowel grootschalige AI-training als inferentie te optimaliseren en vormen de basis voor de volgende generatie AI-infrastructuur binnen Google Cloud.
De TPU 8t is ontworpen voor intensieve trainingsworkloads en levert bijna drie keer meer rekenprestaties per cluster ten opzichte van de vorige generatie. Met ondersteuning voor grootschalige configuraties tot duizenden chips en gedeeld geheugen op petabyte-niveau maakt deze architectuur het mogelijk om complexe AI-modellen sneller te ontwikkelen. Tegelijkertijd is de TPU 8i geoptimaliseerd voor inferentie en richt zich op lage latentie en hoge efficiëntie, essentieel voor toepassingen waarin AI-modellen in realtime worden ingezet.
Beide chips zijn ontwikkeld in samenwerking met Google DeepMind en spelen in op de groeiende vraag naar AI-agents die complexe taken uitvoeren via continue leer- en beslissingsprocessen. Door specifieke optimalisaties voor training en inferentie afzonderlijk aan te pakken, realiseert Google aanzienlijke verbeteringen in prestaties en energie-efficiëntie.
De nieuwe TPU-generatie biedt tot twee keer betere prestaties per watt en tot 80 procent betere prijs-prestatieverhouding voor inferentieworkloads. Daarnaast maken innovaties zoals verbeterde interconnects, geavanceerde geheugenarchitecturen en liquid cooling deel uit van het ontwerp.
De TPU 8t en TPU 8i zullen later dit jaar algemeen beschikbaar komen als onderdeel van Google’s AI Hypercomputer-platform, waarmee bedrijven en onderzoekers toegang krijgen tot schaalbare en efficiënte AI-infrastructuur.
Bronnen: Google
Meer Techtesters? Vragen over de producten die we bespreken? Je kan ons vinden op:
– Techtesters YouTube
– Nadalina op Twitter (Chef de Video)
– Foritain op Twitter (Test Chef)
– Techtesters op Instagram
