Verdens mindste supercomputer kan ligge i din lomme

Forestil dig en AI, der er lige så kraftig som de store modeller på nettet, men som bor i din egen lomme. En amerikansk tech-startup har præsenteret en enhed på størrelse med en powerbank, som officielt er blevet anerkendt som verdens mindste personlige AI-supercomputer. Og det mest opsigtsvækkende er ikke størrelsen, men hvad den kan betyde for helt almindelige brugere.

Den lille computer er i stand til at køre meget store sprogmodeller (LLM’er) lokalt, uden forbindelse til internettet og uden adgang til eksterne servere. Det betyder, at opgaver som tekstproduktion, avanceret ræsonnement og analyse kan klares direkte på enheden – uden at dine data forlader dit skrivebord, din taske eller dit hjem.

For forbrugerne rammer produktet ned i flere af de udfordringer, der fylder mere og mere i hverdagen. Cloud-baseret AI er bekvemt, men det gør brugerne afhængige af abonnementer, stabile forbindelser og eksterne platforme. Samtidig vokser bekymringerne for privatliv, datasikkerhed og energiforbrug. Med en lokal AI-maskine flyttes kontrollen tilbage til brugeren selv.

Enheden er bygget til at håndtere de mest relevante AI-opgaver i praksis og kan køre modeller i en størrelse, der dækker langt størstedelen af virkelige behov. Til de tungere opgaver kan den endda skaleres op til modeller, der matcher niveauet fra de mest kendte generative AI-tjenester. Forskellen er blot, at alt foregår offline og krypteret direkte på enheden.

Det gør den interessant for alt fra studerende og kreative til udviklere og professionelle, der arbejder med følsomme oplysninger. Dokumenter, noter og præferencer gemmes lokalt, og maskinen opbygger sin egen “hukommelse” uden at sende noget videre til tredjeparter. I en tid, hvor data ofte er prisen for gratis tjenester, er det et markant skifte.

Specifikationer:

Processor | ARMv9.2 12-kernet CPU
AI-regnekraft | Specialudviklet heterogent modul (SoC + dNPU), der leverer cirka 190 TOPS
Hukommelse og lager | 80 GB LPDDR5X samt 1 TB SSD
Modelkapacitet | Kan køre sprogmodeller på op til 120 milliarder parametre fuldt ud lokalt på enheden
Energieffektivitet | 30 watt TDP og cirka 65 watt ved typisk systemforbrug
Mål og vægt | 14,2 × 8 × 2,53 centimeter, cirka 300 gram
Økosystem | Ét-klik-installation af snesevis af open source-LLM’er og agent-frameworks
Forbindelse | Fungerer fuldt offline uden behov for internet eller cloud

Teknisk set er det lykkedes at presse imponerende regnekraft ned i et meget lille format ved at bruge en strømbesparende processor og nye metoder til at udnytte AI-modeller mere effektivt. I stedet for konstant at aktivere hele modellen, bruges kun de dele, der er nødvendige for den aktuelle opgave. Resultatet er høj ydeevne med langt lavere energiforbrug end klassiske løsninger, der er afhængige af tunge grafikkort.

Forbrugervinklen stopper dog ikke ved privatliv og strømforbrug. Hvis den type enheder slår igennem, kan det på sigt ændre, hvordan vi bruger AI i hverdagen. I stedet for at logge ind på tjenester og dele data med globale platforme, kan avanceret kunstig intelligens blive noget, man ejer på samme måde som en smartphone eller en bærbar computer.

Producenten lover samtidig et åbent økosystem med nem adgang til populære AI-modeller og værktøjer, så brugerne selv kan vælge, hvad maskinen skal kunne. De første store præsentationer er planlagt til begyndelsen af næste år, men signalet er allerede tydeligt: AI behøver ikke bo i skyen for at være intelligent.

Verdens mindste supercomputer kan ligge i din lomme