ChatGPT truer virksomheders sikkerhed – men der findes modsvar

En ny bølge af AI-baserede phishing-angreb står for døren med den øgede brug af chatbots som ChatGPT og andre AI-genererede tekster, da de er et stærkt og nemt værktøj til at producere troværdigt indhold. Dog kan ny teknologi også være med til at forhindre de nye trusler online

14. februar 2023 Lars Bennetzen Business, Nyheder, Nyhedsbrev, Sikkerhed, Tophistorier

ChatGPT, som er udviklet af non-profit forskningsvirksomheden OpenAI, forventes at udløse en ny bølge af AI-baserede phishing-angreb. Chatbots som ChatGPT har ændret spillereglerne ved at kunne skrive velskrevne tekster på kort tid. Det har dog også ført til udviklingen af værktøjer, der kan identificere og advare mod AI-genereret indhold, og som skal inkorporeres i platforme for at modvirke phishing. 

Et eksempel på en ny teknologi, der stadig er under udvikling, som skal modstå den nye bølge af angreb, er GPT-2 Output Detector. I en online demo af GPT-2 Output Detector kan brugeren indsætte en tekst i en boks og straks udregne sandsynligheden for, at teksten er skrevet af AI. Ifølge forskning fra OpenAI har værktøjet en relativt høj detektionsrate, men værktøjet skal kombineres med metadatabaserede metoder og menneskelig dømmekraft for at være mest mulig effektiv. 

Hvis OpenAI-ingeniører har haft held med at skabe en bot, der kan skrive lige så godt eller bedre end det gennemsnitlige menneske, så er det naturligt, at de også kan skabe en bot, der er bedre end det gennemsnitlige menneske til at registrere, når en tekst er blevet genereret af AI. 

Peter Graymon, ansvarlig for Barracuda Networks i Norden

Vandmærker kan være en løsning

En anden måde at løse problemet på er ved at vandmærke alle ChatGPT-tekster. Ifølge OpenAI-forsker, Scott Aaronson, har ingeniører allerede bygget en fungerende prototype, der vandmærker al tekst genereret af OpenAI. Det sker via det, han kalder en “kryptografisk pseudo-random funktion”. Og det er kun OpenAI, der har adgang til nøglen.

Lige nu må vi antage, at phishing-angrebene snart vil stige i både antal og troværdighed. Mange digitale processer vil sandsynligvis skulle revurderes, fordi det nuværende niveau af tillid ikke kan opretholdes, når AI-genererede tekster og e-mails for alvor bliver et værktøj for cyberkriminelle. 

Peter Graymon, ansvarlig for Barracuda Networks i Norden

Du kan læse mere om, hvordan ChatGPT øger risikoen for flere phishing-angreb her.

Læs mere om værktøjerne, der afslører AI-genererede tekst her.

About Lars Bennetzen 3952 Articles
Lars Bennetzen har været it- og gadget-journalist siden 1992, og arbejdet som redaktør på PC World, Ingeniøren, Jern- og Maskinindustrien, Procesteknik og Ugens Erhverv. I 2006 blev Lars Chefredaktør på Alt om DATA, og bestyrede det gode gamle it-blad gennem de næste 6 år. I 2012 blev Lars selvstændig og stiftede firmaet Blackbelt Communications og i 2015 startede han Tech-Test. Lars fungerer også som kommunikationskonsulent, taler, moderator og gadgetekspert.

Relaterede Artikler

Nyheder

Cyberkriminelle udnytter Black Friday til at svindle danske forbrugere

22. november 2022 Lars Bennetzen Nyheder, Nyhedsbrev, Sikkerhed, Tophistorier
Check Point Research har set en kraftig stigning i antallet af falske onlinebutikker og hjemmesider gennem de sidste uger, alle nogle der udgiver sig for at være forsendelsestjenester. Således estimerer analytikere hos Check Point, at hver sjette phishing e-mail siden starten af november har været omkring forsendelse, og at ca. fire pct. af alle nye webshops i perioden har været falske.  Stigningen i antallet af disse svindelforsøg kommer op til Black Friday, som danske forbrugere i stor stil har taget til sig – og det forsøger cyberkriminelle at udnytte. Vi vil anbefale alle forbrugere at være ekstra opmærksomme på svindel i forbindelse med nethandel til Black Friday, Cyber Monday og den efterfølgende julehandel. De cyberkriminelle kigger ofte på tendenser blandt forbrugere, og derfor er de også opmærksomme på, at danskerne i højere grad har flyttet deres julehandel til nettet. Det vil svindlerne udnytte ved at forsøge at lokke intetanende forbrugere i deres fælde, hvor der er en stor sandsynlighed for, at forbrugerne betaler for et produkt, de aldrig kommer til at modtage. Vi ved, at nogle forbrugere kan blive så begejstrede over et rigtig godt tilbud, at de sænker paraderne og måske ikke undersøger hjemmesiden nærmere, før de taster deres kreditkortinformationer. Derfor er det essentielt, at danske forbrugere er klar over de farer, der følger med de gode tilbud, ikke bliver lokket af tilbud, der er for gode til at være sande og er opmærksomme på mistænkelige betalingsmetoder. Jan Johannsen, Regional Director for Security Engineering hos Check Point i Danmark …. (læs mere her)
Nyheder

Hackere udnytter COVID-19 med fupmails om tests

25. januar 2022 Lars Bennetzen Nyheder, Nyhedsbrev, Sikkerhed, Tophistorier
Hackere over hele verden har udnyttet COVID-19 pandemien lige fra første bølge ramte. Tilbage i marts 2020 steg COVID-19-relaterede angreb med 667 pct., og i takt med at vaccinationsprogrammerne blev rullet ud ramte også en ny bølge af vaccine-relaterede e-mail-trusler. Og den seneste omikron-variant har altså ført til endnu en stigning i antallet af COVID-19-tilfælde – og phishing-angreb. De mest almindelige svindelnumre er bl.a.: Tilbud om at sælge COVID-19-tests og andre medicinske forsyninger som fx masker eller handsker. Her sælges fx forfalskede eller på anden måde uautoriserede produkter. Falske meddelelser om ubetalte ordrer på COVID-19-tests, hvor svindleren giver en PayPal-konto til at sende betalinger for at fuldføre købet af hurtigtests  Udgivelse af identitet af enten laboratorier, testudbydere eller individuelle medarbejdere, der deler falske COVID-19-testresultater. Hackere kaprer samtaler COVID-19-relaterede svindelnumre er typisk rettet mod enkeltpersoner og virksomheder. Da nogle organisationer forsøger at få deres medarbejdere tilbage på kontoret sendes opdaterede politikker ud, hvor oplysninger om medarbejdernes vaccinationsstatus efterspørges – og disse samtaler er guf for hackere.  I et specifikt eksempel, der blev fundet i Barracudas undersøgelse, udgav cyberkriminelle sig for at være en HR-afdeling og delte en fil. Filen blev derpå hostet på et phishing-websted med medarbejdere i håb om så at kunne stjæle kontooplysninger. Her oplyste angriberne, at dokumentet allerede var blevet scannet for virus og spamindhold.  Det er desværre helt forventeligt, at kriminelle udnytter det kæmpe fokus, der er på tests og Covid-retningslinjer til at snyde folk til at trykke på inficerede links eller dele fortrolige oplysninger. Som virksomhed …. (læs mere her)