Google har skruet voldsomt op for ambitionerne på årets Cloud Next-konference. Her har selskabet præsenteret sin ottende generation af TPU-chips, altså de specialbyggede AI-processorer, som skal drive både træning af gigantiske modeller og de lynhurtige svar, vi møder i moderne AI-tjenester.
Den største opsigtsvækkende nyhed er TPU 8i, som er målrettet inference — altså den del, hvor AI’en skal svare, reagere og udføre opgaver i realtid. Ifølge Google leverer den op til 80 procent bedre performance per dollar end den forrige generation. Samtidig har chippen tre gange mere on-chip SRAM, hvilket skal gøre den bedre til store og krævende AI-modeller med lav ventetid.
Ved siden af den lancerer Google også TPU 8t, som er bygget til de helt tunge træningsopgaver. Her siger Google, at chippen kan levere op til 2,7 gange bedre performance per dollar til storskalatræning end Ironwood-generationen. Det er præcis den slags løft, der kan gøre en reel forskel for virksomheder, som træner store modeller og vil have mere regnekraft for pengene.
Artiklen fortsætter efter annoncen

