Administratíva amerického prezidenta Donalda Trumpa spustila oficiálneho štátneho chatbota, ktorý má občanom Spojených štátov uľahčiť každodennú prácu s úradmi. Nástroj postavený na umelej inteligencii však už v prvých dňoch vyvolal vlnu diskusie – niektoré jeho reakcie totiž vyzneli nezvyčajne a vyvolali otázky o spoľahlivosti celého systému.
Ambiciózny projekt s trhlinami
Podľa predstaviteľov vlády má chatbot zrýchliť vybavovanie žiadostí, pomôcť s orientáciou v predpisoch a odbremeniť štátnych zamestnancov od rutinných otázok. Používatelia si však všimli, že v určitých prípadoch asistent poskytol zmätočné alebo nepresné informácie, čo okamžite vyvolalo kritiku zo strany opozície aj technologických expertov.
Odborníci upozorňujú, že podobné systémy majú tendenciu „halucinovať“ – teda vytvárať zdanlivo presvedčivé, no nesprávne odpovede. Pri štátnych službách, kde ide o právne alebo finančné údaje, môže mať každá chyba vážne dôsledky. Otázkou preto zostáva, akým spôsobom bude vláda overovať správnosť výstupov a kto ponesie zodpovednosť za prípadné škody.
Zástancovia projektu tvrdia, že ide o pilotnú fázu a systém sa bude priebežne učiť a zlepšovať. Zároveň pripomínajú, že podobné nástroje už zaviedli aj iné krajiny a ich vývoj si vyžaduje čas. Kritici však namietajú, že štát nemá experimentovať na občanoch a mal by najprv zaručiť bezpečnostné a etické štandardy.
Celá kauza tak poukazuje na širší problém: ako zavádzať umelú inteligenciu do verejnej správy tak, aby prinášala úžitok, a pritom nepodkopávala dôveru ľudí. Odpoveď na túto otázku bude kľúčová nielen pre Spojené štáty, ale aj pre ďalšie štáty, ktoré zvažujú podobné riešenia.
