Forskere fandt alvorligt sikkerhedshul i ChatGPTs Lockdown Mode

En nu rettet fejl i ChatGPT gjorde det muligt at lække brugerdata i baggrunden, selvom sikkerhedsfunktionen Lockdown Mode var aktiveret

12. november 2026 Lars Bennetzen Nyheder, Nyhedsbrev, Sikkerhed, Tophistorier
Illustration: Gemini (AI)

It-sikkerhedsforskere fra Check Point Research har afsløret en opsigtsvækkende sårbarhed i ChatGPT. Fejlen gjorde det muligt for ondsindede aktører at omgå tjenestens Lockdown Mode – en funktion, der netop er designet til at begrænse forbindelser til omverdenen og forhindre datalæk.

Ved at benytte en specialtilpasset chatbot udstyret med ondsindede instruktioner, kunne forskerne demonstrere, hvordan data fra en brugers samtale i ChatGPT-appen på computeren i det skjulte blev sendt til en ekstern server. Det mest kritiske ved metoden var, at dataoverførslen skete helt automatisk, uden at brugeren på noget tidspunkt skulle klikke på links eller godkende handlingen.

Sårbarheden var forankret i den måde, ChatGPT håndterer interaktivt indhold, som eksempelvis forhåndsvisninger af websider. Selvom dette indhold normalt afvikles i et beskyttet og afskærmet miljø, lykkedes det forskerne at fremprovokere åbningen af nye vinduer, der omgik de indbyggede sikkerhedsbegrænsninger.

Det særlige ved undersøgelsen er, at forskerne kunne få beskeder ud, selv om brugeren havde aktiveret ekstra beskyttelse. For en virksomhed kan en AI-samtale indeholde alt fra et kontraktudkast til oplysninger om et internt projekt. Når virksomheden vælger at aktivere en ekstra sikkerhedsfunktion, kan det netop være for at beskytte den slags oplysninger. Derfor skal virksomheder vurdere sikkerheden i hele programmet og de funktioner, der omgiver AI-modellen.

Balder Borup, Security Engineer Team Leader hos Check Point Software Technologies i Danmark

Ud over det usynlige datalæk kunne fejlen også misbruges til at generere falske opdateringsbeskeder i nye vinduer, udstyret med ChatGPT-ikonet. Her kunne en angriber frit skræddersy indholdet for at lokke brugere til at downloade skadelige filer, hvilket dog i modsætning til datalækket krævede et aktivt klik fra brugeren.

OpenAI blev orienteret om sikkerhedshullet og udrullede en endelig rettelse den 18. september 2026. Det er efterfølgende blevet bekræftet, at angrebsmetoden er sat effektivt ud af spil.

Selvom hullet er lukket, understreger episoden behovet for faste retningslinjer, når kunstig intelligens integreres i arbejdsgangene:

Virksomheder bør sætte klare rammer for, hvilke oplysninger medarbejderne må dele med AI, og hvilke data og systemer værktøjerne får adgang til. De bør understøtte rammerne med tekniske kontroller, der begrænser delingen af følsomme oplysninger med AI-tjenester. På den måde kan de mindske konsekvenserne af en sikkerhedsfejl. De skal samtidig gøre det klart, hvem medarbejderne skal kontakte, hvis de oplever mistænkelig adfærd i et AI-værktøj.

Balder Borup, Security Engineer Team Leader hos Check Point Software Technologies i Danmark

Del artiklen på

Relaterede Artikler

Business

Alvorligt sikkerhedshul fundet i Windows Servere

15. juli 2020 Lars Bennetzen Business, Nyheder fra gl. site, Nyhedsbrev, Sikkerhed, Tophistorier
Analytikere hos Check Point har identificeret et alvorligt sikkerhedshul, i Windows’ DNS-servere, der findes i samtlige versioner af Windows Server-operativsystemet fra 2003 til 2019. Hvis hackeren benytter sig af sikkerhedshullet, kan de anskaffe sig domæneadministrator-rettigheder, hvilket kan give dem fuld kontrol over virksomheder og organisationers it-systemer. Sikkerhedshullet, der har fået navnet SIGRed, opstår, hvis hackere sender ondsindede opslag til DNS-serveren, der kan give dem mulighed for at overtage hele virksomhedens DNS-infrastruktur. På den måde har de cyberkriminelle mulighed for at læse og manipulere brugernes e-mails og adfærd på internettet, fjerne tjenester, opfange brugerrettigheder og meget mere. Desuden anses sikkerhedshullet for at have en orme-effekt, hvilket betyder, at det spredes fra computer til computer, hvis hullet bliver udnyttet. Dermed kan én inficeret computer hurtigt blive til en superspreder, der inficerer resten af virksomhedens computere på få minutter. DNS, der ofte beskrives som internettets telefonbog, er en netværksprotokol, der oversætter domæner – som f.eks. www.checkpoint.com til ip-adresser. På den måde er DNS en stor del af de it-systemer, vi kender og bruger i dag. Efter Check Point har informeret Microsoft om dette sikkerhedshul, har Microsoft arbejdet på at lave et sikkerhedspatch, der netop er blevet frigivet. Microsoft har givet dette sikkerhedshul den højeste klassificering, CVSS:10.0, hvilket dækker over de mest alvorlige former for sikkerhedshuller. Et sikkerhedshul i en DNS-server skal tages meget alvorligt, for ofte betyder det, at de cyberkriminelle er meget tæt på at kunne trænge ind i en hel virksomheds it-systemer. Alle virksomheder – lige meget om de er store …. (læs mere her)
Nyheder

Alvorligt sikkerhedshul i PHP kræver ny dansk strategi

26. oktober 2026 Lars Bennetzen Nyheder, Nyhedsbrev, Sikkerhed, Tophistorier
Onsdag måtte flere store danske tjenester som Aula og DMI trække stikket som følge af en kritisk, global sårbarhed. Synderen var sikkerhedshuller i programmeringssproget PHP. Sagen udstiller en alvorlig blind vinkel i den offentlige it-sikkerhed, da mange organisationer slet ikke er klar over, at teknologien kører i baggrunden, fordi den er dybt indlejret i systemer fra deres leverandører. En AI-agent fra OpenAI har tidligere kortlagt, at 7 ud af 10 af verdens hjemmesider reelt står uden lås på døren. Ifølge Daniel Russo, der er lektor ved Institut for Datalogi på Aalborg Universitet, har kunstig intelligens forrykket trusselsbilledet markant og gjort den usynlige software til et nemt mål. AI skabte ikke disse sårbarheder. De har eksisteret i mere end ti år. AI gjorde dem billige at udnytte, mens reparationen stadig afhænger af en håndfuld udviklere. Daniel Russo For at forhindre lignende nedbrud i fremtiden peger forskeren på, at Danmark bør lade sig inspirere af Tyskland. Her medfinansierer man via det statslige Sovereign Tech Agency den open source-software, som samfundet bygger på. På baggrund af hændelsen anbefales der tre konkrete tiltag: Onsdagens hændelse i PHP-miljøet bør ifølge forskeren tjene som et direkte opgør med den måde, man i dag klassificerer it-sikkerhed på samfundsplan. Open source-software er offentlig infrastruktur på linje med vores veje. Hvis vi ønsker et mere robust samfund, er vi nødt til at betale for vedligeholdelsen af den. Daniel Russo
Nyheder fra gl. site

Ny smartphone får integreret ChatGPT

1. marts 2023 Lars Bennetzen Nyheder fra gl. site, Nyhedsbrev, Tophistorier
I følge Allview er deres nye smartphone, Soul X10 den første smartphone i verden der får en stemmeassistent der er kombineret med den kunstige intelligens, ChatGPT. Ideen med AVI, som deres stemmeassistent er døbt, er at skabe en virtuel assistent, der skal kunne give svar i høj kvalitet i tekst, på en lang række emner. Udover at aktivere funktioner i mobilen, så som at hente beskeder og nyheder samt vise videoklips der indeholder de emner brugeren ønsker, skulle AVI nu også kunne udfordre brugeren til at føre engagerende samtaler. AVI skulle, ifølge Allview, fungere på romanske og engelske sprogstammer, og hjælpe brugerne på forskellige måder, blandt andet: Soul X10 er blevet udstyret med et kamerasystem med tre objektiver, herunder et 48MP hovedkamera. Hovedsensoren, Sony IMX582 PDAF F/1.79, bruger Quad Bayer teknologi, der ifølge Allview giver virkelig gode fotografiske oplevelser og realistiske farver. Der er ikke så mange flere informationer om Soul X10 udover at den er baseret på Android 13 og kommer med en MediaTek Octa-Core processor og 6GB DDR4 hukommelse. Den nye mobil skulle være til salg online til omkring 1.250 kroner, hvilket virker utrolig billigt, og salget starter til april. Du kan læse mere om mobilen her.