Bekymring for AI chatbots: Et halvt års pause!

Chatbotten ChatGPT og storesøsteren GPT-4 skaber bekymring på flere fronter. Elon Musk advarer sammen med eksperter mod AI.

AI robot
Europol er bekymret for cyberkriminelles muligheder med en chatbot. (Grafik: MereMobil.dk)

AI, i denne forbindelse chatbotten GPT-4, kan blive roden til mere digitalt ondt. Det frygter EU’s agentur for politisamarbejde, Europol, i en rapport.

Europol advarer om, hvordan ChatGPT kan blive et nyt værktøj for kriminelle, og forudser, at kriminelle kan bruge værktøjer som ChatGPT til at skabe ondsindet kode.

De kriminelle kan med chatbotter som netop Open AI’s ChartGTP og dens umiddelbare konkurrenter; Googles Bard og Microsofts Bing AI, let skabe koder, der ellers kræver en vis ekspertise ud i programmering.

Sigtet med ondsindet kode kan ifølge Europol være at inficere computere for ren spionage, økonomisk vinding eller blot sabotage.

Den kunstige intelligens åbner også for muligheder indenfor terrorisme, propaganda og desinformation – ting som i yderste konsekvens kan ramme et helt samfund, mener Europol.

Agenturet peger derfor på, at ChatGPT skal have mekanismer, der forhindrer den i at skabe ondsindet kode, men Europol mener samtidig, at disse mekanismer relativt nemt kun omgås ved at dele kodningen op i mindre dele, så chatbotten ikke “opdager”, hvad der er i gang.

Europol mener desuden, at med den hastighed, disse AI udvikler sig, er det også kun et spørgsmål om tid, før cyberkriminelle finder endnu smartere og bedre måder at udnytte de muligheder, der ligger i sådanne værktøjer.

Vi har tidligere skrevet om, at hackere kan udnytte AI ondsindet.

Elon Musk og 1.000 eksperter advarer om AI

Onsdag var Tesla-milliardæren Elon Musk sammen med blandt andre Apple-stifteren Steve Wozniak og en lang række andre eksperter ude og advare om den hastige udvikling af kunstig intelligens.

I alt over 1.000 personer havde underskrevet advarslen, som kom i anledningen er frigivelsen af AI-tjenesten GPT-4 fra netop selskabet OpenAI i San Francisco.

– “Sæt de gigantiske AI-eksperimenter på pause”, lød det i det åbne brev med advarslen, som blev uddybet med:

– “AI-systemer med konkurrencebetonet human intelligens udgør en meget stor risiko for samfundet.”

– “Kraftfulde AI-systemer bør først udvikles, når vi er sikre på, at deres effekter vil være positive, og at risikoen ved dem er til at håndtere,” lød det videre.

Halvt års pause

Ifølge nyhedsbureauerne Ritzau og AFP vil underskriverne have sat udviklingen af AI på pause i et halvt år. Tiden skal bruges til at udvikle sikkerhedsprotokoller, og arbejde med, at gøre AI-systemer mere sikre, præcise, tillidsvækkende og loyale.

Underskriverne foreslår, at regeringer skal tvinge selskaber, der ikke ønsker at deltage i en udsættelse, til at holde udviklingen tilbage.

Mange forskere, heriblandt Gary Marcus fra New York University, som er en af underskriverne af det åbne brev, har længe advaret om, at chatbots kan være superspredere af løgne og misinformation, skriver Ritzau.

KOMMENTAR: Kan Microsoft give Google en kæmpe mavepuster?

AI kan bruges mod dig og mig

Europols bekymring går også på, at menigmand vil være et nemmere offer for de cyberkriminelle.

I rapporten fremhæves flere områder. For eksempel det velkendte phishing, hvor svindlere forsøger at fiske personoplysninger, som brugernavn, adgangskoder og kreditkort- eller netbanksoplysninger.

Europol peger også på, at kriminelle med en chatbot nemmere vil kunne påtage sig roller, bruge specielle ord og udtrykke sig på en bestemt måde.

Det vil gøre det lettere for kriminelle at give sig ud for at tilhøre en bestemt gruppe, have en bestemt alder eller være en del af en organisation – eller endda være et specifikt individ.

Det er ikke ukendte trick blandt cyberkriminelle, men ChatGTP og søsteren GPT-4 samt Bard og Bing AI kan gøre det muligt, at gøre det hurtigere, bedre og i meget større skala.

Mere til historien

Open AI’s GPT-4 er den chatbot, som har fået Elon Musk og kompagni til at hejse et advarselsflag. OpenAI løftede sløret for GPT-4 for et par uger siden. Læs mere om det her

Nu kommer straftolden på elbiler

Populær kineser i Danmark rammes hårdt, når EU flere måneder tidligere end ventet indfører EU straftold på kinesisk producerede elbiler.

(mere…)
Elon Musk forbyder brug af Apple

Tesla-ejeren Elon Musk har reageret på Apples lancering af Apple Intelligence i blandt andet iPhone og iPad.

(mere…)
Apple Intelligence – hvad går det ud på?

Kunstig intelligens kommer til iPhone, iPad og Mac. Her er nyhederne i Apple Intelligence.

(mere…)
Gemini er landet på dansk jord

Google erkender at Gemini kan fejle. Gemini kan tilgås både som app til Android og via en browser.

(mere…)
Falske annoncer med tv-værter overdrages til EU

Dansk tilsyn vurderer, at EU-reglerne overtrædes af Meta på Facebook og Instagram.

(mere…)
Disse AI-funktioner kan du glæde dig til på iPhone

Den næste store iOS-version ventes, at indeholde en masse nye AI-funktioner. Her er nogle af de AI-tiltag, som forventes.

(mere…)
Subscribe - få opdateringer på tråden
Notify of
0 Kommentarer
Inline Feedbacks
Se alle kommentarer
Kom et skridt foran
Vil du være fuldt opdateret på de seneste nyheder, anmeldelser samt trends og tendenser i mobilbranchen? Få de seneste vurderinger først i vores nyhedsbrev.
Gå til tilmeldingssiden
Vi dækker den bærbare teknologi – smartphones, tablets, smartwatches, forbrugerstof og bringer baggrundshistorier og guides. MereMobil.dk har en ambition om at være den primære kilde at gå til, hvis du ønsker viden om branchen, der hver dag har enorm betydning for os alle.
© 2024 MereMobil.dk. Alle rettigheder forbeholdt.
magic-wandarrow-right-circle
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram