Rasmus Frøkjær Kristensen
Kunstig intelligens kan være med til at gøre dine data sårbare overfor angreb.
Når nye digitale funktioner dukker op, trykker mange hurtigt ja.
Det gælder både på jobbet og derhjemme, hvor systemer løbende bliver opdateret.
Ofte lover opdateringerne mere effektivitet og mindre manuelt arbejde.
For de fleste sker det uden større overvejelser.
Teknologien passer sig selv i baggrunden og bliver en del af hverdagen.
Netop derfor er det let at overse, hvad man egentlig giver adgang til.
Ny advarsel
Ifølge Forbes er der nu voksende bekymring blandt sikkerhedseksperter over måden, hvorpå AI værktøjer bliver integreret i mail, dokumenter og kalendere.
Fokus handler ikke kun om træning af kunstig intelligens, men om adgangen til enorme mængder data, som systemerne automatisk får.
Sikkerhedsfirmaet Noma stod bag en rapport om en sårbarhed kaldet GeminiJack.
Her viste forskerne, hvordan angribere kunne få adgang til følsomme virksomhedsoplysninger via delte dokumenter, kalenderinvitationer eller e mails.
Angrebene krævede ingen klik fra modtageren og efterlod ingen synlige spor.
Google samarbejdede med Noma og har lukket hullet, ifølge Forbes.
Problemet opstod, når AI assistenten automatisk læste materiale på tværs af platforme.
Skjulte instruktioner kunne indlejres i dokumenter, som senere blev hentet frem af AI systemet under almindelige søgninger.
Noma beskriver risikoen med ordene “If an attacker can influence what AI reads, they can influence what AI does.”
Forbes peger på, at udfordringen ikke forsvinder, blot fordi en enkelt sårbarhed er lukket.
Udviklingen går hurtigt, og nye funktioner bliver rullet ud, mens sikkerhedsarbejdet ofte halter bagefter.
Eksperter advarer
Storbritanniens National Cyber Security Centre opfordrer brugere til at ændre deres tilgang til AI assistenter.
De bør behandles som ansatte og ikke som private, betroede værktøjer.
Hvis man ikke ville give en kollega fri adgang til alle mails, dokumenter og adgangskoder, bør man heller ikke give en AI samme mulighed.
Noma advarer om, at GeminiJack langt fra vil være det sidste eksempel.
Firmaet skriver “This type of attack will not be the last of its kind.”
Ifølge eksperterne er AI nu blevet et nyt adgangslag, som både virksomheder og private skal forholde sig aktivt til.
Rådet er at overveje hver enkelt opdatering nøje.
Både på arbejdspladsen og i privaten kan et hurtigt klik få større betydning, end mange forventer.
