Du bruger den måske til at skrive mails eller finde opskrifter – men i hænderne på cyberkriminelle er den samme teknologi en farlig medspiller.
Nu advarer Google selv om, hvordan deres AI-værktøj Gemini bliver udnyttet til ondsindede formål.
Googles sikkerhedsteam, kaldet Threat Intelligence Group, har offentliggjort en rapport, der afslører, hvordan hackere verden over bruger Gemini til at effektivisere angreb.
Ifølge CHIP bruges AI’en typisk til at skrive phishing-tekster, forklare tekniske sårbarheder, oversætte indhold og udføre små kodningsopgaver.
Funktioner, der i hænderne på almindelige brugere er hjælpsomme – men som i hænderne på hackere bliver farlige værktøjer.
"Gemini understøtter almindelige opgaver såsom at oprette indhold, opsummere, forklare komplekse koncepter og endda simple kodningsopgaver", skriver Google i rapporten.
Selvom Google forsikrer, at de indbyggede sikkerhedssystemer i Gemini generelt er effektive, og at forsøg på såkaldt "jailbreaking" ikke har givet resultater, er det tydeligt, at truslen vokser.
Der er dog endnu ikke set direkte misbrug af Googles egne produkter som Gmail eller Google-konti.
Blandt de mest aktive bag misbruget er statsstøttede grupper fra Iran, Kina, Rusland og Nordkorea.
Disse grupper bruger AI-værktøjer til alt fra informationssøgning til planlægning af angreb.
Google stiller hele rapporten til rådighed som en gratis PDF – og slår dermed alarm over et stigende globalt problem, der næppe forsvinder foreløbig.
