Komponerbar Infrastruktur for Kunstig Intelligens

Offentlig prosjektsammendrag

Å kjøre KI-laster lokalt er nødvendig for mange virksomheter som av hensyn til personvern eller bedriftshemmeligheter ikke kan benytte eksterne skytjenester. Slike KI-arbeidslaster krever dyr og energikrevende infrastruktur, hovedsakelig PCIe-baserte GPUer og tjenermaskiner. For å imøtekomme krav til ytelse, fleksibilitet og forbedret ressursutnyttelse, ønsker Dolphin å realisere en såkalt CDI (“Composable and Disaggregated Infrastructure”) for lokal KI-infrastruktur, der GPUer og maskiner kobles sammen i et PCIe-nettverk, og muliggjør en PCIe-basert regneklynge der maskiner deler ressurser i stedet for å ha egne, redundante enheter. Å realisere en slik CDI-løsning medfører betydelig innovasjon og nybrotsarbeid, med utvikling av ny PCIe 5.0 og 6.0 maskinvare med tilhørende programvareløsning. Vår CDI-løsning vil lede til økt utnyttelsesgrad av dyre KI-ressurser, og medføre betydelig kostnadsreduksjon og energisparing for KI-infrastruktur.