AI-orme kan ramme TV-bokse: Forskere advarer om ny risiko

Anthropic har fået en stor AI-model til at køre fordelt på 15 billige Android TV-bokse. Små modeller kan snart blive i stand til at kopiere sig selv mellem usikre enheder.

Mest af alt lyder det som noget, der kunne være trukket ud af en science fiction-film og ikke en reel nyhed.

Ikke desto mindre advarer Anthropic, selskabet bag Claude, om AI-modeller, der i fremtiden kan blive i stand til at kopiere og sprede sig mellem usikre enheder. Det skriver Flatpanels.

Anthropic kalder fænomenet Autonomous Replication and Adaptation, forkortet ARA. Det dækker over en AI-model, der kan udbrede og tilpasse sig uden menneskelig styring.

I kontrollerede forsøg har Anthropic undersøgt de forskellige trin, som skal til, før en AI-model kan kopiere sig selv til andre enheder.

Modeller med op til 30 milliarder parametre kan allerede gennemføre mange af de enkelte trin. De laver dog fortsat fejl, når trinene skal sættes sammen til en samlet proces.

I en forenklet test kunne den større model GLM-5.2 og endnu stærkere modeller gennemføre hele processen. Anthropic vurderer samtidig, at mindre AI-modeller kan nå et tilsvarende niveau inden udgangen af året, hvis udviklingen fortsætter i samme tempo.

TV-bokse kan levere regnekraften

Det er især IoT-enheder, Internet of Things, der indgår i Anthropics forsøg. Her taler vi blandt andet om smarte ovne og billige Android TV-bokse fra mindre kendte mærker.

Forskerne fik modellen Gemma4-26B-A4B til at køre fordelt på 15 billige Android TV-bokse. Hver boks kostede omkring 55 dollar.

Forsøget kørte med en hastighed på 0,39 tokens i sekundet. Det viser, at billige IoT-enheder tilsammen kan levere regnekraft nok til at afvikle en AI-model, selv om hastigheden er lav.

I en anden test kunne en AI-model med ni milliarder parametre få AI-kørsel til at fungere på otte ud af ni forskellige typer hardware.

Det særlige ved en AI-baseret orm er ifølge Anthropic, at modellen kan forsøge at tilpasse sig hardware, som den ikke tidligere har mødt. Traditionel malware er derimod normalt programmeret til at angribe bestemte systemer.

Kan blive vanskelig at lukke ned

Hvis små AI-modeller bliver i stand til at kopiere sig selv mellem enheder, kan de blive vanskelige at stoppe. Det skyldes, at der ikke nødvendigvis findes ét centralt sted, hvor spredningen kan lukkes ned.

Anthropic forventer dog, at en eventuel spredning vil foregå langsomt. Selskabet nævner en mulig fordoblingstid på flere dage.

Forsøgene viser ikke, at AI-orme allerede spreder sig mellem almindelige TV-bokse og andre enheder ude hos forbrugerne. Der er tale om en undersøgelse af, hvor tæt teknologien er på at gøre det muligt.

LÆS MERE: Nu kan man give AI adgang til sin bankkonto

Mere til historien

Anthropic understreger, at der stadig mangler flere trin, før forskerne har vist, at en autonom AI-orm kan sprede sig mellem et netværk af mindre og svage enheder.