Vad är en NPU?

Om du tittar på något större teknikföretag under de senaste åren har du kanske lagt märke till ett nytt modeord: AI. AI har snabbt fått ett stort genomslag, integreras i nästan alla produkter och är redan en del av vårt dagliga liv. Särskilt när AI-funktioner läggs till i smartphones ser vi en ökning av NPU:er, eller Neural Processing Units, för att snabba upp dessa komplicerade uppgifter kring fotomanipulation och AI-assistenter. Nu när Intel och AMD lägger till dedikerade NPU:er i sina mobila chip ser vi att fördelarna med dessa kommer till bärbara datorer och kanske till och med stationära datorer i framtiden. För att förstå effekterna av den här trenden, låt oss bryta ner den ännu mer.

En Neural Processing Unit (NPU) är ett paraplybegrepp som hänvisar till alla processorer som specialiserar sig på de typer av beräkningar som används i neurala nätverk, den vanligaste typen av algoritm som används i AI och maskininlärningsprogram. I slutändan är alla processorer gjorda för att göra matematik, skillnaden ligger i hur de är utformade för att hantera olika funktioner eller arbetsbelastningar. På samma sätt som en GPU:s funktioner kan köras på en CPU (men det rekommenderas inte), är en NPU:s kärnfunktioner också ganska enkla. Men genom att designa chippet för en specifik uppgift, oavsett om det är för grafikbearbetning eller neurala nätverksfunktioner, kan det köras med en effektivitet som är flera magnituder snabbare. Denna specialisering bidrar till att drastiskt minska strömförbrukningen samtidigt som hastigheten ökar, vilket är två viktiga faktorer i mobila enheter.

I takt med att användningen av AI blir allt vanligare i våra smartphones och andra enheter kommer fördelarna med NPU:er att bli allt mer uppenbara. Även om vi bara är i början av AI, ser vi redan att det används hela tiden. Alla typer av ljud- eller videoinmatningar går sannolikt igenom någon form av AI-bearbetning. Videor stabiliseras, färger förbättras och sång förstärks. AI-assistenter som Siri bearbetar nu röstkommandon lokalt på din telefon innan de beslutar om de behöver internet.

Med AMD:s Ryzen 8040-serie och Intels Core Ultra-serie börjar vi se hur AI kan användas som ett verktyg i vardagen. Samma fördelar med kraft och hastighet som vi ser på smartphones kommer att gälla även för bärbara datorer. Den här gången kommer den vanligaste användningen sannolikt att vara vid videosamtal där AI kan användas för att skapa en suddig bakgrund, en högre upplösning eller en tydlig röst. Och när Microsoft introducerar copilot för Windows kommer vi att se snabbare svar med mindre strömförbrukning när vi övergår till AI som en vanlig del av PC-upplevelsen.