Bekymring for AI chatbots: Et halvt års pause!

Chatbotten ChatGPT og storesøsteren GPT-4 skaber bekymring på flere fronter. Elon Musk advarer sammen med eksperter mod AI.

AI robot
Europol er bekymret for cyberkriminelles muligheder med en chatbot. (Grafik: MereMobil.dk)

AI, i denne forbindelse chatbotten GPT-4, kan blive roden til mere digitalt ondt. Det frygter EU's agentur for politisamarbejde, Europol, i en rapport.

Europol advarer om, hvordan ChatGPT kan blive et nyt værktøj for kriminelle, og forudser, at kriminelle kan bruge værktøjer som ChatGPT til at skabe ondsindet kode.

De kriminelle kan med chatbotter som netop Open AI's ChartGTP og dens umiddelbare konkurrenter; Googles Bard og Microsofts Bing AI, let skabe koder, der ellers kræver en vis ekspertise ud i programmering.

Sigtet med ondsindet kode kan ifølge Europol være at inficere computere for ren spionage, økonomisk vinding eller blot sabotage.

Den kunstige intelligens åbner også for muligheder indenfor terrorisme, propaganda og desinformation – ting som i yderste konsekvens kan ramme et helt samfund, mener Europol.

Agenturet peger derfor på, at ChatGPT skal have mekanismer, der forhindrer den i at skabe ondsindet kode, men Europol mener samtidig, at disse mekanismer relativt nemt kun omgås ved at dele kodningen op i mindre dele, så chatbotten ikke "opdager", hvad der er i gang.

Europol mener desuden, at med den hastighed, disse AI udvikler sig, er det også kun et spørgsmål om tid, før cyberkriminelle finder endnu smartere og bedre måder at udnytte de muligheder, der ligger i sådanne værktøjer.

Vi har tidligere skrevet om, at hackere kan udnytte AI ondsindet.

Elon Musk og 1.000 eksperter advarer om AI

Onsdag var Tesla-milliardæren Elon Musk sammen med blandt andre Apple-stifteren Steve Wozniak og en lang række andre eksperter ude og advare om den hastige udvikling af kunstig intelligens.

I alt over 1.000 personer havde underskrevet advarslen, som kom i anledningen er frigivelsen af AI-tjenesten GPT-4 fra netop selskabet OpenAI i San Francisco.

- "Sæt de gigantiske AI-eksperimenter på pause", lød det i det åbne brev med advarslen, som blev uddybet med:

- "AI-systemer med konkurrencebetonet human intelligens udgør en meget stor risiko for samfundet."

- "Kraftfulde AI-systemer bør først udvikles, når vi er sikre på, at deres effekter vil være positive, og at risikoen ved dem er til at håndtere," lød det videre.

Halvt års pause

Ifølge nyhedsbureauerne Ritzau og AFP vil underskriverne have sat udviklingen af AI på pause i et halvt år. Tiden skal bruges til at udvikle sikkerhedsprotokoller, og arbejde med, at gøre AI-systemer mere sikre, præcise, tillidsvækkende og loyale.

Underskriverne foreslår, at regeringer skal tvinge selskaber, der ikke ønsker at deltage i en udsættelse, til at holde udviklingen tilbage.

Mange forskere, heriblandt Gary Marcus fra New York University, som er en af underskriverne af det åbne brev, har længe advaret om, at chatbots kan være superspredere af løgne og misinformation, skriver Ritzau.

KOMMENTAR: Kan Microsoft give Google en kæmpe mavepuster?

AI kan bruges mod dig og mig

Europols bekymring går også på, at menigmand vil være et nemmere offer for de cyberkriminelle.

I rapporten fremhæves flere områder. For eksempel det velkendte phishing, hvor svindlere forsøger at fiske personoplysninger, som brugernavn, adgangskoder og kreditkort- eller netbanksoplysninger.

Europol peger også på, at kriminelle med en chatbot nemmere vil kunne påtage sig roller, bruge specielle ord og udtrykke sig på en bestemt måde.

Det vil gøre det lettere for kriminelle at give sig ud for at tilhøre en bestemt gruppe, have en bestemt alder eller være en del af en organisation - eller endda være et specifikt individ.

Det er ikke ukendte trick blandt cyberkriminelle, men ChatGTP og søsteren GPT-4 samt Bard og Bing AI kan gøre det muligt, at gøre det hurtigere, bedre og i meget større skala.

Mere til historien

Open AI's GPT-4 er den chatbot, som har fået Elon Musk og kompagni til at hejse et advarselsflag. OpenAI løftede sløret for GPT-4 for et par uger siden. Læs mere om det her

AI og Samsung går støvsugervejen … blandt andet

Samsung har præsenteret visionen Bespoke Life 2023. Visionen er at forbedre brugernes liv gennem energieffektivitet, forbindelsesmuligheder og design.

(mere…)
ChatGPT-appen klar til iPhone i Danmark

Du kan nu have ChatGPT ved hånden, hvis du har en iPhone. Appen er klar i Danmark.

(mere…)
French Open: Tennisstjerner får hjælp af kunstig intelligens

Når Holger Rune, Novak Djokovic og Casper Ruud er klar til French Open i Paris, vil de kunne anvende kunstig intelligens.

(mere…)
ChatGPT nu klar som app til iPhone

OpenAI har frigivet en officiel ChatGPT-app, som kan downloades nu af særligt udvalgte.

(mere…)
ChatGPT-chef: Kunstig intelligens (AI) skal bruges varsomt

I en høring i Kongressen erkendte chefen for OpenAI, som står bag ChatGPT, at man skal være varsom ved brugen af kunstig intelligens.

(mere…)
Rygtebørsen: Apple vil drille regler om USB-C

EU truer Apple, men holder en kattelem åben.

(mere…)
Subscribe - få opdateringer på tråden
Notify of
0 Kommentarer
Inline Feedbacks
Se alle kommentarer
Kom et skridt foran
Vil du være fuldt opdateret på de seneste nyheder, anmeldelser samt trends og tendenser i mobilbranchen? Få de seneste vurderinger først i vores nyhedsbrev.
Gå til tilmeldingssiden
Vi dækker den bærbare teknologi – smartphones, tablets, smartwatches, forbrugerstof og bringer baggrundshistorier og guides. MereMobil.dk har en ambition om at være den primære kilde at gå til, hvis du ønsker viden om branchen, der hver dag har enorm betydning for os alle.
© 2023 MereMobil.dk. Alle rettigheder forbeholdt.
magic-wandarrow-right-circle
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram