Bekymring for AI chatbots: Et halvt års pause!

Chatbotten ChatGPT og storesøsteren GPT-4 skaber bekymring på flere fronter. Elon Musk advarer sammen med eksperter mod AI.

AI robot
Europol er bekymret for cyberkriminelles muligheder med en chatbot. (Grafik: MereMobil.dk)

AI, i denne forbindelse chatbotten GPT-4, kan blive roden til mere digitalt ondt. Det frygter EU’s agentur for politisamarbejde, Europol, i en rapport.

Europol advarer om, hvordan ChatGPT kan blive et nyt værktøj for kriminelle, og forudser, at kriminelle kan bruge værktøjer som ChatGPT til at skabe ondsindet kode.

De kriminelle kan med chatbotter som netop Open AI’s ChartGTP og dens umiddelbare konkurrenter; Googles Bard og Microsofts Bing AI, let skabe koder, der ellers kræver en vis ekspertise ud i programmering.

Sigtet med ondsindet kode kan ifølge Europol være at inficere computere for ren spionage, økonomisk vinding eller blot sabotage.

Den kunstige intelligens åbner også for muligheder indenfor terrorisme, propaganda og desinformation – ting som i yderste konsekvens kan ramme et helt samfund, mener Europol.

Agenturet peger derfor på, at ChatGPT skal have mekanismer, der forhindrer den i at skabe ondsindet kode, men Europol mener samtidig, at disse mekanismer relativt nemt kun omgås ved at dele kodningen op i mindre dele, så chatbotten ikke “opdager”, hvad der er i gang.

Europol mener desuden, at med den hastighed, disse AI udvikler sig, er det også kun et spørgsmål om tid, før cyberkriminelle finder endnu smartere og bedre måder at udnytte de muligheder, der ligger i sådanne værktøjer.

Vi har tidligere skrevet om, at hackere kan udnytte AI ondsindet.

Elon Musk og 1.000 eksperter advarer om AI

Onsdag var Tesla-milliardæren Elon Musk sammen med blandt andre Apple-stifteren Steve Wozniak og en lang række andre eksperter ude og advare om den hastige udvikling af kunstig intelligens.

I alt over 1.000 personer havde underskrevet advarslen, som kom i anledningen er frigivelsen af AI-tjenesten GPT-4 fra netop selskabet OpenAI i San Francisco.

– “Sæt de gigantiske AI-eksperimenter på pause”, lød det i det åbne brev med advarslen, som blev uddybet med:

– “AI-systemer med konkurrencebetonet human intelligens udgør en meget stor risiko for samfundet.”

– “Kraftfulde AI-systemer bør først udvikles, når vi er sikre på, at deres effekter vil være positive, og at risikoen ved dem er til at håndtere,” lød det videre.

Halvt års pause

Ifølge nyhedsbureauerne Ritzau og AFP vil underskriverne have sat udviklingen af AI på pause i et halvt år. Tiden skal bruges til at udvikle sikkerhedsprotokoller, og arbejde med, at gøre AI-systemer mere sikre, præcise, tillidsvækkende og loyale.

Underskriverne foreslår, at regeringer skal tvinge selskaber, der ikke ønsker at deltage i en udsættelse, til at holde udviklingen tilbage.

Mange forskere, heriblandt Gary Marcus fra New York University, som er en af underskriverne af det åbne brev, har længe advaret om, at chatbots kan være superspredere af løgne og misinformation, skriver Ritzau.

KOMMENTAR: Kan Microsoft give Google en kæmpe mavepuster?

AI kan bruges mod dig og mig

Europols bekymring går også på, at menigmand vil være et nemmere offer for de cyberkriminelle.

I rapporten fremhæves flere områder. For eksempel det velkendte phishing, hvor svindlere forsøger at fiske personoplysninger, som brugernavn, adgangskoder og kreditkort- eller netbanksoplysninger.

Europol peger også på, at kriminelle med en chatbot nemmere vil kunne påtage sig roller, bruge specielle ord og udtrykke sig på en bestemt måde.

Det vil gøre det lettere for kriminelle at give sig ud for at tilhøre en bestemt gruppe, have en bestemt alder eller være en del af en organisation – eller endda være et specifikt individ.

Det er ikke ukendte trick blandt cyberkriminelle, men ChatGTP og søsteren GPT-4 samt Bard og Bing AI kan gøre det muligt, at gøre det hurtigere, bedre og i meget større skala.

Mere til historien

Open AI’s GPT-4 er den chatbot, som har fået Elon Musk og kompagni til at hejse et advarselsflag. OpenAI løftede sløret for GPT-4 for et par uger siden. Læs mere om det her

Google Gemini skal måske drive AI-funktionerne i iOS 18

Måske får iPhone i iOS 18 indbygget AI-funktionalitet, som er leveret af konkurrenten Google Gemini.

(mere…)
Alle kender MitID – EU-udgave skal udvikles

Den digitale tegnebog og MitID til EU-borgere er kommet på tegnebrættet, lyder det fra Digitaliseringsstyrelsen.

(mere…)
AI-forvandling: Fra telefoner til hele hjemmet

REPORTAGE: Jeg har været i Frankfurt til World of Samsung-eventen. Jeg så Samsungs 2024 lineup af tv, AV, mobil, smarthome og hårde hvidevarer.

(mere…)
Fra 2025 skal din telefon opdateres i flere år

Softwaren skal vedligeholdes gratis i lang tid efter, at en telefon er taget af markedet. Ny lovgivning træder i kraft fra sommeren 2025.

(mere…)
EU stiller vilde krav til nye telefoner

EU har stiller nye krav til producenterne om blandt andet reparationsbarhed, holdbarhed og opgradering af styresystemet.

(mere…)
Besked-appen på udvalgte Android-telefoner får chat-robot

Googles AI-værktøjer dukker op i Besked-appen på udvalgte Android-telefoner.

(mere…)
Subscribe - få opdateringer på tråden
Notify of
0 Kommentarer
Inline Feedbacks
Se alle kommentarer
Kom et skridt foran
Vil du være fuldt opdateret på de seneste nyheder, anmeldelser samt trends og tendenser i mobilbranchen? Få de seneste vurderinger først i vores nyhedsbrev.
Gå til tilmeldingssiden
Vi dækker den bærbare teknologi – smartphones, tablets, smartwatches, forbrugerstof og bringer baggrundshistorier og guides. MereMobil.dk har en ambition om at være den primære kilde at gå til, hvis du ønsker viden om branchen, der hver dag har enorm betydning for os alle.
© 2024 MereMobil.dk. Alle rettigheder forbeholdt.
magic-wandarrow-right-circle
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram