ChatGPT truer virksomheders sikkerhed – men der findes modsvar

En ny bølge af AI-baserede phishing-angreb står for døren med den øgede brug af chatbots som ChatGPT og andre AI-genererede tekster, da de er et stærkt og nemt værktøj til at producere troværdigt indhold. Dog kan ny teknologi også være med til at forhindre de nye trusler online

14. februar 2023 Lars Bennetzen Business, Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier

ChatGPT, som er udviklet af non-profit forskningsvirksomheden OpenAI, forventes at udløse en ny bølge af AI-baserede phishing-angreb. Chatbots som ChatGPT har ændret spillereglerne ved at kunne skrive velskrevne tekster på kort tid. Det har dog også ført til udviklingen af værktøjer, der kan identificere og advare mod AI-genereret indhold, og som skal inkorporeres i platforme for at modvirke phishing. 

Et eksempel på en ny teknologi, der stadig er under udvikling, som skal modstå den nye bølge af angreb, er GPT-2 Output Detector. I en online demo af GPT-2 Output Detector kan brugeren indsætte en tekst i en boks og straks udregne sandsynligheden for, at teksten er skrevet af AI. Ifølge forskning fra OpenAI har værktøjet en relativt høj detektionsrate, men værktøjet skal kombineres med metadatabaserede metoder og menneskelig dømmekraft for at være mest mulig effektiv. 

Hvis OpenAI-ingeniører har haft held med at skabe en bot, der kan skrive lige så godt eller bedre end det gennemsnitlige menneske, så er det naturligt, at de også kan skabe en bot, der er bedre end det gennemsnitlige menneske til at registrere, når en tekst er blevet genereret af AI. 

Peter Graymon, ansvarlig for Barracuda Networks i Norden

Vandmærker kan være en løsning

En anden måde at løse problemet på er ved at vandmærke alle ChatGPT-tekster. Ifølge OpenAI-forsker, Scott Aaronson, har ingeniører allerede bygget en fungerende prototype, der vandmærker al tekst genereret af OpenAI. Det sker via det, han kalder en “kryptografisk pseudo-random funktion”. Og det er kun OpenAI, der har adgang til nøglen.

Lige nu må vi antage, at phishing-angrebene snart vil stige i både antal og troværdighed. Mange digitale processer vil sandsynligvis skulle revurderes, fordi det nuværende niveau af tillid ikke kan opretholdes, når AI-genererede tekster og e-mails for alvor bliver et værktøj for cyberkriminelle. 

Peter Graymon, ansvarlig for Barracuda Networks i Norden

Du kan læse mere om, hvordan ChatGPT øger risikoen for flere phishing-angreb her.

Læs mere om værktøjerne, der afslører AI-genererede tekst her.

Tjek priser på bredbånd

Tech-Test har indgået et samarbejde med Samlino så du kan tjekke bredbåndspriser og ikke mindst muligheder for bredbånd på din adresse.

Det er helt gratis og Samlino skal ikke bruge andet end din adresse for at levere priser til dig.

Når du har indtastet adressen i feltet herunder, bliver du sendt til Samlino, hvor du får vist resultatet, og hvor du kan indsætte flere filtre, hvis du har bestemte behov for dit bredbånd.

Relaterede Artikler

Nyheder fra gl. site

Pas på når du googler populære vendinger til nytårsquizzen

22. december 2023 Lars Bennetzen Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
Cyberkriminelle tilpasser deres angreb efter, hvilke ord og emner der trender på Google, Bing og Yahoo!, viser ny undersøgelse af The Daily Mail. Undersøgelsen advarer om netsvindel relateret til søgning på den populære popsanger ‘Taylor Swift’, da 79% af de hjemmesider, der vises i søgeresultaterne, indeholder potentiel malware. Kendte personligheder som f.eks. Taylor Swift eller danske Holger Rune tiltrækker masser af opmærksomhed online. Og det udnytter cyberkriminelle ved at lave falske hjemmesider eller annoncer, som ofte lover eksklusivt indhold eller nyheder for at tiltrække folk. Men når man klikker ind på siderne, kan de omdirigere en til sider med skadeligt software eller downloade malware på ens enhed, uden at man opdager det. Ransomware er den mest udbredte “kendis”-svindel  Det er især ransomware, som hackerne benytter, når de får folk til at klikke ind på deres falske hjemmesider. Derfra krypterer de al data på ens computer og beder efterfølgende om en løsesum for at låse det op igen. Tidligere undersøgelser fra Barracuda Networks viser, at hvis man først betaler én gang, stiger risikoen for, at de opkræver flere penge efterfølgende. Helt generelt er det altid en god idé at udvise forsigtighed, når man er på internettet. Hackere udnytter folks nysgerrighed ved at oprette hjemmesider med en fængende titel eller løfte om eksklusivt indhold. Særligt de mest populære kendisser eller søgeord, bliver misbrugt af hackerne.  Peter Graymon, chef for Barracuda Networks i Norden Lav nytårsquizzen og undgå IT-fusere Nytårsquizzen hører sig til, og den kan heldigvis stadig laves, hvis man blot følger et …. (læs mere her)
Nyheder fra gl. site

Spion-malware bliver stadig mere populært hos hackerne

18. juni 2019 Lars Bennetzen Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
Hackere benytter i stigende grad modulær kode til at trænge igennem virksomheders it-sikkerhedsløsninger. Det kan man læse i en ny rapport fra it-sikkerhedsvirksomheden Barracuda, der har registreret 150.000 angreb rettet mod deres kunder siden januar, hvor angriberne har sendt malware med modulær opbygning. Modulære malware adskiller sig fra traditionel malware, fordi den spionerer i modtagerens system, inden et angreb lanceres. Formålet er at indsamle informationer om systemet og dets sikkerhedsløsninger, som sendes tilbage til hackeren eller en server, som derefter sammensætter en ny målrettet kode, der kan omgå virksomhedens forsvar. På den måde justerer hackeren cyberangrebet baseret på de forsvar og systemer, som offeret har og derved øges risikoen for indtrængen og skade: Ved først at indsamle informationer om systemet, kan angrebet planlægges og styres på en helt anden måde end ved et traditionelt angreb, som typisk indebærer, at den samme kode udsendes til et stort antal modtagere. Den nye tendens viser, at ophavsmændene bliver mere strukturerede og målrettede, hvilket stiller større krav til de udsatte virksomhederPeter Gustafsson, ansvarlig for Barracuda Networks i Norden. Kendte eksempler på modulære malware er Emotet, CoreBot og TrickBot, som bl.a. bruges til at sende modtageren til en falsk hjemmeside fx en netbank. Når modtageren indtaster login-oplysninger, bliver disse sendt videre til hackeren, mens malwaren sørger for, at ofret logges ind på sin rigtige netbank. På denne måde forbliver ofret intetanende, og hackeren kan nu sælge oplysningerne eller begå økonomisk kriminalitet på et senere tidspunkt. Kunstig intelligens og menneskelig viden som forsvar Ifølge Peter Gustafsson …. (læs mere her)
Business

39% af nordiske organisationer har et dårligt eller mangelfuldt it-sikkerhedsniveau

12. december 2022 Lars Bennetzen Business, Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
Nixu Cybersecurity Index måler it-sikkerhedens modenhed i nordeuropæiske organisationer ved at evaluere fire aspekter af it-sikkerhed i organisationerne: Nuværende tilstand, ledelse, finansielle investeringer og fremtidige udviklingsplaner. Resultatet af undersøgelsen viser en gennemsnitlige score på 67, hvilket næppe er tilfredsstillende på 10-100-skalaen. Scorerne er baseret på selvevaluering. Undersøgelsen blev gennemført i september-oktober 2022. Den baserer sig på besvarelser fra 180 nordeuropæiske it-sikkerhedsledere fra forskellige brancher, der deler deres syn på den nuværende og fremtidige tilstand af it-sikkerhed i deres organisationer. Ifølge undersøgelsesresultaterne er security awareness den mest kritiske it-sikkerhedskapacitet, og organisationerne planlægger at styrke den i de næste 12 måneder. Risikostyring vurderes derimod af beslutningstagerne som en mindre vigtig kapacitet. Kun 24 procent siger, at risikostyring er en af de mest afgørende faktorer inden for it-sikkerhed, og 21 procent planlægger at styrke den i løbet af det næste år. På trods af dette siger mere end en tredjedel af respondenterne (38 procent), at de mangler velorganiseret risikostyring. Dette indikerer, at it-sikkerhed er blevet drevet mere som en teknologipost end som en integreret del af virksomhedens risikostyring. Men faktum er, at it-sikkerhed handler om risikostyring, og det bør behandles som et forretningsproblem. Jan Mickos, Business Area Lead, Managed Services, hos Nixu Supply chain security er det hotteste emne Forsyningskædens rolle er blandt de vigtigste tendenser, der afsløres i undersøgelsen. Respondenterne ser det som det hotteste emne inden for it-sikkerhed inden for de næste 12 måneder. Det erstatter ransomware som ellers har været det mest hotte emne i de seneste 12 måneder. Et …. (læs mere her)