I april nægtede en stor AI-leverandør at frigive en model, fordi den selvstændigt kunne finde tusindvis af ukendte sårbarheder på få uger. Det var teorien. Nu er det praksis.
Første bekræftede sag
Et stort teknologiselskabs trusselsintelligensafdeling offentliggjorde for nylig den første bekræftede sag, hvor kriminelle brugte en AI-model til at analysere kildekoden i et populært open source-administrationsværktøj. AI’en fandt en fejl, som traditionelle sårbarhedsscannere ikke er bygget til at opdage.
Fejlen var ikke et bufferoverløb eller en manglende opdatering. Det var en logikfejl. Udvikleren havde hardkodet en undtagelse i systemets tofaktorbekræftelse. En antagelse om tillid, der så korrekt ud for enhver automatiseret scanner, men som AI-modellen gennemskuede ved at læse udviklerens intention og finde modsætningen.
Milliarder af nøgler til døren
Sårbarheden krævede gyldige loginoplysninger. Men med milliarder af lækkede credentials i omløb er det ikke en barriere. Det er en formalitet.
Kriminelle pakkede fejlen ind i et automatiseret script og forberedte masseudnyttelse. Teknologiselskabet nåede at advare leverandøren og få sårbarheden lukket, inden kampagnen startede.
Skiftet der betyder noget
Det afgørende er ikke selve angrebet. Det er skiftet i, hvad angribere kan finde. Traditionelle scannere finder huller i kode. AI finder huller i logik. Det er en helt anden klasse af sårbarheder. Og de sidder i jeres systemer lige nu.
Statsaktører er allerede i gang
Samme rapport dokumenterer, at nordkoreanske statsaktører sender tusindvis af automatiserede forespørgsler for at analysere kendte sårbarheder med AI. Kinesiske grupper bruger specialiserede datasæt med 85.000 historiske sårbarheder til at finjustere deres research. Russiske aktører bruger AI til at generere kamuflage-kode, der skjuler ondsindet software for sikkerhedsprogrammer.
Selskabets chefanalytiker siger det lige ud: Kapløbet om AI og sårbarheder er allerede i gang. For hver sårbarhed der kan spores til AI, er der sandsynligvis mange flere, der endnu ikke er opdaget.
Tre ting at gøre nu
Gennemgå jeres tofaktorbekræftelse. Tjek om der er undtagelser, servicekonti eller ældre integrationer, der springer den over. Hvis svaret er “det ved vi ikke”, har I allerede et hul.
Spørg jeres IT-leverandør, hvad jeres scanner finder. Finder den logikfejl eller kun tekniske fejl? AI-angribere finder tillidsantagelser i kode. En traditionel scanner gør ikke.
Bestil en gennemgang af jeres administrationsværktøjer. Ikke en automatisk scanning. En gennemgang af en specialist, der tænker som en angriber, ikke som en tjekliste.
En penetrationstest afslører de sårbarheder, som automatiserede scannere overser. En uafhængig cybersikkerhedsaudit vurderer, om jeres samlede forsvar holder, når angriberne bruger AI til at finde de fejl, jeres værktøjer ikke kan se.
Hvornår fik I sidst jeres systemer gennemgået af en specialist, der tænker som en angriber og ikke bare kører en scanner?
Har du brug for en penetrationstest eller en uafhængig sikkerhedsgennemgang?
Kontakt Nielco IT på telefon 70 13 63 23 eller via kontaktformularen.
