Samsung kombinuje paměti HBM s AI obvody

Specifický paměťový modul či produkt s označením HBM-PIM vyvinula společnost Samsung. Jak název novinky napovídá, jde o kombinaci čipů typu HBM – High Bandwith Memory a obvodů Processing-In-Memory. Ty, stejně jako celý modul, slouží primárně pro zpracování úloh umělé inteligence uvnitř paměti. Řešení podporuje vysoce paralelní zpracování dat a výrazně omezuje jejich přesuny z paměťových čipů a zpět.

Moduly HBM-PIM se podle informací výrobce uplatní zejména v systémech HPC, zejména v aplikacích pro strojové učení nebo odlaďování datových modelů. Využijí je ale i mobilní zařízení. Vzhledem k tomu, že nepracují s von Neumannovou architekturou oddělené paměti a procesoru, mohly by ve specifických aplikacích dosahovat vysokých výpočetních výkonů při nízkých energetických nárocích. A tento předpoklad společnost Samsung potvrzuje. Nasadila moduly HBM-PIM do stávajícího řešení HBM2 Aquabolt. Jeho systémový výkon vzrostl na dvojnásobek a energetické nároky poklesly o 70 procent.

Společnost Samsung chce navázat, případně prohloubit spolupráci s dodavateli řešení pro umělou inteligenci, kteří by mohli své aplikace s možnostmi novinky zkombinovat. Podle jejích informací moduly nevyžadují žádné změny hardwaru nebo softwaru, lze je tedy rychle integrovat i do stávajících řešení.

Poprvé se moduly HBM-PIM objeví v superpočítačích amerického ministerstva energetiky, konkrétně na jeho pracovišti Argonne National Laboratory, které provozuje hned několik systémů HPC.