Cuda en rocm frameworks

CUDA

CUDA (Compute Unified Device Architecture) is het framework van NVIDIA om parallel te programmeren op hun GPU’s. Je komt het overal tegen in AI en technisch onderzoek. Met CUDA heb je een programmeermodel, maar ook direct toegang tot dingen als cuBLAS voor lineaire algebra en cuDNN voor deep learning. Tools voor het analyseren van prestaties of debuggen zitten erbij (denk aan Nsight). PyTorch of TensorFlow? Beide snappen CUDA zonder omweg. Het hele ecosysteem zit goed in elkaar, duidelijke handleidingen zijn er volop. Maar, je zit vast aan alleen NVIDIA-kaarten. Sommige organisaties vinden dat een nadeel. Voor de meeste toepassingen rond AI en GPU-rekenen is CUDA nog steeds de standaard waar iedereen zich op richt.

ROCm

ROCm (Radeon Open Compute) is AMD’s eigen, open-source antwoord op CUDA. Hiermee kun je rekenen op AMD GPU’s met een vergelijkbare workflow. ROCm is handzaam in AI en high performance computing. Het pakket aan software groeit gestaag, maar het is niet zo ver uitgewerkt als bij CUDA. In de afgelopen jaren werken compatibiliteit en prestaties beter dan voorheen, vooral met nieuwe kaarten. Wil je PyTorch draaien op AMD? Dat werkt via ROCm (zie documentatie). Het is handig als je niet aan NVIDIA wilt vastzitten. Wat dan de beste keuze is? Hangt af van je eigen hardware, licentie-beperkingen, kosten en software die je wil gebruiken.

Dit toepassen in
jouw bedrijf?

We vertalen het naar jouw processen en laten binnen een week een werkend prototype zien.