Magazín Wired informoval o novom výskume v oblasti kybernetickej bezpečnosti, ktorý ukázal zraniteľnosť umelej inteligencie Google Gemini. Výskumníci demonštrovali, že pomocou promptov vložených do pozvánok Google Kalendára je možné prinútiť AI vykonať rôzne akcie v domácnosti.
Po tom, ako používateľ požiadal Gemini o zhrnutie svojho kalendára a poďakoval jej za výsledky, škodlivý prompt v pozvánke prinútil asistenta komunikovať s Google Home AI agentom. Ten následne vykonal príkazy ako otvorenie okien alebo zhasnutie svetiel.
Výskum bol zdieľaný s Google už vo februári
Portál Engadget informoval, že aj napriek tomu, že výskumníci odhalili verejnosti spomínaný hack na tohtotýždňovej konferencii Black Hat, s Googlom sa so svojimi zisteniami podelili už vo februári. Andy Wen, senior riaditeľ bezpečnostného produktového manažmentu Google Workspace, pre Wired uviedol, že ide o problém, ktorý tu „bude ešte nejaký čas“.
Podľa neho sú reálne prípady takýchto útokov „mimoriadne zriedkavé“, no rastúca komplexnosť veľkých jazykových modelov zvyšuje riziko, že útočníci nájdu nové metódy zneužitia.
Google sľubuje rýchle zlepšenia bezpečnosti
Wen potvrdil, že spoločnosť zobrala zistené skutočnosti „mimoriadne vážne“. Výsledky testov pomohli Googlu zrýchliť prácu na nových nástrojoch, ktoré majú tento typ útokov efektívnejšie blokovať.
Hoci ide zatiaľ o ojedinelé prípady, odborníci varujú, že vývoj AI ide rýchlo dopredu a aj takéto sofistikované hrozby si vyžadujú okamžitú pozornosť.
