Bekymring for AI chatbots: Et halvt års pause!
Chatbotten ChatGPT og storesøsteren GPT-4 skaber bekymring på flere fronter. Elon Musk advarer sammen med eksperter mod AI.
AI, i denne forbindelse chatbotten GPT-4, kan blive roden til mere digitalt ondt. Det frygter EU’s agentur for politisamarbejde, Europol, i en rapport.
Europol advarer om, hvordan ChatGPT kan blive et nyt værktøj for kriminelle, og forudser, at kriminelle kan bruge værktøjer som ChatGPT til at skabe ondsindet kode.
De kriminelle kan med chatbotter som netop Open AI’s ChartGTP og dens umiddelbare konkurrenter; Googles Bard og Microsofts Bing AI, let skabe koder, der ellers kræver en vis ekspertise ud i programmering.
Sigtet med ondsindet kode kan ifølge Europol være at inficere computere for ren spionage, økonomisk vinding eller blot sabotage.
Den kunstige intelligens åbner også for muligheder indenfor terrorisme, propaganda og desinformation – ting som i yderste konsekvens kan ramme et helt samfund, mener Europol.
Agenturet peger derfor på, at ChatGPT skal have mekanismer, der forhindrer den i at skabe ondsindet kode, men Europol mener samtidig, at disse mekanismer relativt nemt kun omgås ved at dele kodningen op i mindre dele, så chatbotten ikke “opdager”, hvad der er i gang.
Europol mener desuden, at med den hastighed, disse AI udvikler sig, er det også kun et spørgsmål om tid, før cyberkriminelle finder endnu smartere og bedre måder at udnytte de muligheder, der ligger i sådanne værktøjer.
Vi har tidligere skrevet om, at hackere kan udnytte AI ondsindet.
Elon Musk og 1.000 eksperter advarer om AI
Onsdag var Tesla-milliardæren Elon Musk sammen med blandt andre Apple-stifteren Steve Wozniak og en lang række andre eksperter ude og advare om den hastige udvikling af kunstig intelligens.
I alt over 1.000 personer havde underskrevet advarslen, som kom i anledningen er frigivelsen af AI-tjenesten GPT-4 fra netop selskabet OpenAI i San Francisco.
– “Sæt de gigantiske AI-eksperimenter på pause”, lød det i det åbne brev med advarslen, som blev uddybet med:
– “AI-systemer med konkurrencebetonet human intelligens udgør en meget stor risiko for samfundet.”
– “Kraftfulde AI-systemer bør først udvikles, når vi er sikre på, at deres effekter vil være positive, og at risikoen ved dem er til at håndtere,” lød det videre.
Halvt års pause
Ifølge nyhedsbureauerne Ritzau og AFP vil underskriverne have sat udviklingen af AI på pause i et halvt år. Tiden skal bruges til at udvikle sikkerhedsprotokoller, og arbejde med, at gøre AI-systemer mere sikre, præcise, tillidsvækkende og loyale.
Underskriverne foreslår, at regeringer skal tvinge selskaber, der ikke ønsker at deltage i en udsættelse, til at holde udviklingen tilbage.
Mange forskere, heriblandt Gary Marcus fra New York University, som er en af underskriverne af det åbne brev, har længe advaret om, at chatbots kan være superspredere af løgne og misinformation, skriver Ritzau.
KOMMENTAR: Kan Microsoft give Google en kæmpe mavepuster?
AI kan bruges mod dig og mig
Europols bekymring går også på, at menigmand vil være et nemmere offer for de cyberkriminelle.
I rapporten fremhæves flere områder. For eksempel det velkendte phishing, hvor svindlere forsøger at fiske personoplysninger, som brugernavn, adgangskoder og kreditkort- eller netbanksoplysninger.
Europol peger også på, at kriminelle med en chatbot nemmere vil kunne påtage sig roller, bruge specielle ord og udtrykke sig på en bestemt måde.
Det vil gøre det lettere for kriminelle at give sig ud for at tilhøre en bestemt gruppe, have en bestemt alder eller være en del af en organisation – eller endda være et specifikt individ.
Det er ikke ukendte trick blandt cyberkriminelle, men ChatGTP og søsteren GPT-4 samt Bard og Bing AI kan gøre det muligt, at gøre det hurtigere, bedre og i meget større skala.
Mere til historien
Open AI’s GPT-4 er den chatbot, som har fået Elon Musk og kompagni til at hejse et advarselsflag. OpenAI løftede sløret for GPT-4 for et par uger siden. Læs mere om det her
