AMD introduceert Instinct MI350P PCIe GPU’s voor AI workloads in bestaande datacenters
Dit artikel is gebaseerd op een persbericht van AMD
AMD heeft de nieuwe Instinct MI350P PCIe GPU’s aangekondigd, speciaal ontwikkeld voor organisaties die AI workloads willen versnellen zonder hun volledige datacenterinfrastructuur te vernieuwen. Met de nieuwe kaarten richt AMD zich op bedrijven die AI toepassingen on premises willen draaien, maar tegelijkertijd de hoge kosten en complexiteit van aangepaste GPU platforms willen vermijden.
De Instinct MI350P PCIe kaarten zijn ontworpen als dual slot accelerators voor standaard luchtgekoelde servers en kunnen direct worden geïntegreerd in bestaande racks en infrastructuur. Volgens AMD maken de GPU’s het mogelijk om AI inferencing en retrieval augmented generation workloads uit te voeren zonder ingrijpende aanpassingen aan stroomvoorziening of koeling. Systemen kunnen worden uitgerust met maximaal acht accelerator kaarten per server.
De nieuwe GPU’s ondersteunen verschillende precisieniveaus voor AI toepassingen, waaronder MXFP6, MXFP4, FP8, INT8 en BF16. Dankzij ondersteuning voor sparsity acceleration en lagere precisieformaten leveren de kaarten hoge prestaties met een lager energieverbruik. AMD spreekt over een maximale rekenkracht tot 4600 TFLOPS bij MXFP4 en circa 2299 TFLOPS aan standaard prestaties. Daarnaast beschikken de kaarten over 144 GB HBM3E geheugen met een bandbreedte tot 4 TB per seconde.
AMD benadrukt bovendien de open software aanpak van het platform. De kaarten ondersteunen onder meer PyTorch, Kubernetes GPU Operator en AMD Inference Microservices, waardoor bedrijven bestaande AI workflows met minimale codewijzigingen kunnen migreren. De bijbehorende enterprise AI software stack wordt zonder licentiekosten beschikbaar gesteld aan partners.
Bronnen: AMD
Meer Techtesters? Vragen over de producten die we bespreken? Je kan ons vinden op:
– Techtesters YouTube
– Nadalina op Twitter (Chef de Video)
– Foritain op Twitter (Test Chef)
– Techtesters op Instagram
