Bezpečnostní experti opäť poukázali na slabiny v umelej inteligencii spoločnosti Microsoft. Najnovší test odhalil, že asistent Copilot dokáže byť prekabátený dômyselne formulovanými otázkami, čo vedie k prezradeniu citlivých informácií o jeho vlastnej konštrukcii.
Útok na AI prostredníctvom otázok
Odborníci na kybernetickú bezpečnosť zistili, že Copilot je zraniteľný voči takzvaným prompt injection útokom. Tým, že mu položili špecificky navrhnuté otázky, dokázali ho prinútiť, aby odhalil vnútorné nastavenia a bezpečnostné mechanizmy, ktoré by mali zostať utajené.
Tento spôsob útoku je obzvlášť nebezpečný, pretože nevyžaduje žiadne hackerské nástroje ani priamy prístup do systému. Stačí len vhodná formulácia otázok, ktorá obíde bežné filtre a prinúti AI k neželanému správaniu.
Riziko pre firemných používateľov
Problém sa týka najmä firemných používateľov, ktorí Copilota využívajú na prácu s citlivými dátami. Ak by útočník dokázal zneužiť túto zraniteľnosť, mohol by získať prístup k interným informáciám alebo dokonca ovplyvniť rozhodovacie procesy.
Microsoft zatiaľ neposkytol oficiálne stanovisko k zisteným nedostatkom, no bezpečnostná komunita odporúča zvýšenú opatrnosť pri používaní AI nástrojov v citlivých prostrediach.
