Systolic arrays in ai chips
Hoe werkt een systolic array eigenlijk
Je ziet bij een systolic array altijd een netwerkje van eenvoudige rekeneenheden (de zogenaamde nodes) die op een voorspelbaar ritme gegevens doorschuiven en tegelijk bewerken. Dus geen losse chips die telkens naar DRAM lopen, maar een patroon: data komt binnen, wordt meteen bewerkt en doorgestuurd naar de volgende node. Elk knooppunt doet een optelvermenigvuldiging ergens in die stroom. Daardoor blijft alles bijna continu in beweging, zonder wachttijd voor het geheugen. En Google’s TPU is hier een duidelijk voorbeeld van: die gebruikt een systolic array puur om neurale netwerken razendsnel te verwerken. Intussen zie je dit idee in allerlei AI-hardware terugkomen, waar standaard processors het afleggen.
Waarvoor gebruik je deze arrays en welk voordeel halen ze
Je ziet systolic arrays vooral opduiken in TPU's en andere chips die speciaal zijn gemaakt voor machine learning taken. Wat levert het je dan op? Voornamelijk meer berekeningen per seconde met minder stroomverbruik (want minder gesleep met data en amper wachttijd). Dus als je rekent op efficiëntie en prestaties bij deep learning, is zo’n array in de hardware niet te missen. Wil je meer weten? Check Google's uitleg voor hun aanpak.