ChatGPT truer virksomheders sikkerhed – men der findes modsvar

En ny bølge af AI-baserede phishing-angreb står for døren med den øgede brug af chatbots som ChatGPT og andre AI-genererede tekster, da de er et stærkt og nemt værktøj til at producere troværdigt indhold. Dog kan ny teknologi også være med til at forhindre de nye trusler online

14. februar 2023 Lars Bennetzen Business, Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier

ChatGPT, som er udviklet af non-profit forskningsvirksomheden OpenAI, forventes at udløse en ny bølge af AI-baserede phishing-angreb. Chatbots som ChatGPT har ændret spillereglerne ved at kunne skrive velskrevne tekster på kort tid. Det har dog også ført til udviklingen af værktøjer, der kan identificere og advare mod AI-genereret indhold, og som skal inkorporeres i platforme for at modvirke phishing. 

Et eksempel på en ny teknologi, der stadig er under udvikling, som skal modstå den nye bølge af angreb, er GPT-2 Output Detector. I en online demo af GPT-2 Output Detector kan brugeren indsætte en tekst i en boks og straks udregne sandsynligheden for, at teksten er skrevet af AI. Ifølge forskning fra OpenAI har værktøjet en relativt høj detektionsrate, men værktøjet skal kombineres med metadatabaserede metoder og menneskelig dømmekraft for at være mest mulig effektiv. 

Hvis OpenAI-ingeniører har haft held med at skabe en bot, der kan skrive lige så godt eller bedre end det gennemsnitlige menneske, så er det naturligt, at de også kan skabe en bot, der er bedre end det gennemsnitlige menneske til at registrere, når en tekst er blevet genereret af AI. 

Peter Graymon, ansvarlig for Barracuda Networks i Norden

Vandmærker kan være en løsning

En anden måde at løse problemet på er ved at vandmærke alle ChatGPT-tekster. Ifølge OpenAI-forsker, Scott Aaronson, har ingeniører allerede bygget en fungerende prototype, der vandmærker al tekst genereret af OpenAI. Det sker via det, han kalder en “kryptografisk pseudo-random funktion”. Og det er kun OpenAI, der har adgang til nøglen.

Lige nu må vi antage, at phishing-angrebene snart vil stige i både antal og troværdighed. Mange digitale processer vil sandsynligvis skulle revurderes, fordi det nuværende niveau af tillid ikke kan opretholdes, når AI-genererede tekster og e-mails for alvor bliver et værktøj for cyberkriminelle. 

Peter Graymon, ansvarlig for Barracuda Networks i Norden

Du kan læse mere om, hvordan ChatGPT øger risikoen for flere phishing-angreb her.

Læs mere om værktøjerne, der afslører AI-genererede tekst her.

Relaterede Artikler

Business

Syv ud af ti nordiske SMV’er ikke har tiltro til eget it-forsvar

7. december 2022 Lars Bennetzen Business, Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
En ny rapport fra it-sikkerhedsvirksomheden ESET viser, hvordan det – ifølge 1.200 it-sikkerhedsbeslutningstagere – står til med sikkerheden i små og mellemstore virksomheder i Norden og Europa. I rapporten har ESET undersøgt, hvordan sikkerhedslandsskabet ser ud hos virksomhederne, der skal begå sig i en stadig mere digitaliseret verden, og hvad det betyder for virksomhedernes syn på deres egen it-sikkerhed. Ifølge rapporten har otte ud af ti (82%) af de adspurgte SMV’er været udsat for cyberangreb inden for det seneste år, hvilket i høj grad har påvirket tiltroen til egne forsvarsevner. Angrebene har fået flere SMV’er i knæ og har resulteret i, at syv ud af ti (68%) nordiske SMV’er nu kun har lille eller ingen tillid til deres eget it-forsvar. Herved adskiller de nordiske SMV’er sig fra SMV’er på europæisk plan, hvor kun hver anden (53%) virksomhed har lav tiltro til egen it-sikkerhed. Nordiske virksomheder og organisationer har en relativ god forståelse for it-sikkerhed, hvilket er positivt. Deres lave tiltro til eget it-forsvar bunder derfor formentlig i, at de har et bedre indblik i, hvor svært det er at sikre sig et effektivt cyberforsvar. Leif Jensen, CBO og Nordisk direktør hos ESET Ifølge de adspurgte SMV’er er det generelt en stor udfordring at følge med i den konstante udvikling af nye angrebsformer. Det gælder også virksomheder med egen it-afdeling. De allerfærreste organisationer har nemlig en arbejdsstyrke med kompetencerne til at opsætte et effektivt cyberforsvar. Det overrasker derfor ikke, at virksomhedernes tre største bekymringer ved at blive udsat for et it-sikkerhedsangreb …. (læs mere her)
Nyheder fra gl. site

10 forudsigelser om IT-sikkerhed i 2019

17. december 2018 Lars Bennetzen Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
IT-sikkerhed fylder mere og mere hos myndigheder, virksomheder, forbrugere og medier. Tag nu senest meldingen fra Forsvarets Efterretningstjeneste om mulig indblanding fra Rusland i det kommende folketingsvalg. Det er dog langt fra den eneste digitale trussel, vi bør bekymre os om i det kommende år. Hos den internationale IT-sikkerhedsvirksomhed Bitdefender holder man hele tiden øje med cyberkriminelles aktiviteter, men man er også nødt til at kigge fremad og være på forkant med udviklingen, hvis man vil skabe værktøjer til morgendagens udfordringer. GDPR viser tænder Den første forudsigelse på listen er positiv. Takket være EU’s indsats for at beskytte personlige oplysninger, så forventer Bitdefender nemlig færre lækager af legitimationsoplysninger. Det skyldes, at sikkerhed i forhold til personoplysninger i højere grad vil blive taget alvorligt på et højt niveau i virksomheder og organisationer for at undgå de meget store bøder, som kan gives til virksomheder. Ransomware vil ikke stige i omfang Ransomware har i mange år været den mest udbredte cybertrussel mod virksomheder og forbrugere, men i 2018 mistede ransomware førstepladsen til en anden populær form for angreb, nemlig cryptojacking. Angreb, der låser eller stjæler filer, er dog stadig den mest rentable angrebsform for de kriminelle, og ransomware er desværre kommet for at blive. Det er dog positivt, at ransomware ikke længere vokser i udbredelse. Det skyldes både, at skurkene har udviklet smag for cryptojacking, men det skyldes også gode sikkerhedsløsninger, som retter sig mod ransomware. Cryptojacking Cryptojacking handler om at udnytte andre menneskers computerkraft til at udvinde kryptovaluta. Der findes næsten …. (læs mere her)
Nyheder fra gl. site

Gratis sikkerhedshjælp til små virksomheder

31. august 2021 Lars Bennetzen Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
Under corona-pandemien har små virksomheder måttet vægte og veje deres udgifter, som aldrig før. Kasperskys nye rapport: ”Hvordan SMV’er kom igennem 2020-2021: Budgetnedskæringer, produktlanceringer og nye investeringsmuligheder” viser, at hele 52 pct. af virksomhederne mener, at de økonomiske udfordringer, de oplevede i corona-året, formentlig vil være permanente. Undersøgelsen viser, at den stramme økonomi under corona-nedlukning har betydet, at it-sikkerhed enten nedprioriteres eller helt fravælges. Over halvdelen (51%) af små og mellemstore virksomheder kæmper med at finde luft i budgettet til forbedringer af it-sikkerheden – også selvom de erkender, at det er vigtigt at beskytte sig mod cybertrusler. Kasperskys platform skal derfor hjælpe de små virksomheder med at opdatere deres it-sikkerhed uden at budgettet vælter. På platformen kan man lære om de bedste tilgange til sikkerhedsrutiner og processer i en virksomhed, hvordan man beskytter sine kundedatabaser, rapporter og kritisk data, hvordan man bruger så lidt tid på it, som muligt, og ikke mindst, hvordan man organiserer en virksomheds kommunikation, både internt og eksternt. Hjælp til branchespecifikke retningslinjer Udover de generelle anbefalinger kan man også indhente forskellige retningslinjer, alt efter om man f.eks. er en virksomhed i sundhedssektoren, arbejder med IP eller hyrer freelancers. Alle disse aspekter kræver ekstra foranstaltninger til at beskytte data og imødekomme specifikke krav om it-sikkerhed. Platformen har et interaktivt format, hvor brugeren skal besvare korte spørgsmål, hvorefter platformen leverer konkrete råd, som er direkte relevante for den givne problemstilling. Alle tips og tricks på platformen er simple og let forståelige, samtidig med, at de opfordrer til direkte …. (læs mere her)