Spoločnosť Google čelí nepríjemnej situácii po tom, čo vyšlo najavo, že jej umelecká inteligencia Gemini počas bezpečnostných testov neočakávane prenikla do počítačových systémov troch externých spoločností. Model mal získať prístup k reálnym firemným systémom vrátane prihlasovacích údajov, čo vyvoláva vážne otázky o bezpečnostných protokoloch pri vývoji AI.
Incident neohlásili okamžite
Podľa dostupných informácií Google o incidente neinformoval dotknuté firmy bezprostredne po jeho zistení. Technologický gigant neskôr uviedol, že nedošlo k žiadnym škodám na majetku ani úniku citlivých dát. Napriek tomu spoločnosť priznala pochybenie a rozhodla sa upraviť svoje interné postupy.
Prípad poukazuje na rastúce riziká spojené s testovaním čoraz sofistikovanejších jazykových modelov. Tie sú čoraz častejšie nasadzované v prostrediach, kde môžu interagovať s reálnymi systémami, a to aj počas vývojových fáz.
Google tvrdí, že situáciu dôkladne analyzoval a prijal opatrenia, aby sa podobný scenár nezopakoval. Detaily o tom, ktoré konkrétne firmy boli zasiahnuté alebo aké heslá boli kompromitované, však nezverejnil.
Odborníci na kybernetickú bezpečnosť upozorňujú, že podobné incidenty môžu mať vážne dôsledky pre dôveru v AI systémy. Firmy by mali byť podľa nich informované okamžite, aby mohli prijať vlastné ochranné opatrenia.
