Bývalý výskumník spoločnosti Anthropic Jacob Coxon verejne varoval, že súčasné preteky vo vývoji umelej inteligencie môžu mať fatálne následky. Podľa jeho slov sa ľudstvo vystavuje riziku, ktoré si mnohí v odvetví dostatočne nepripúšťajú. Coxon po odchode z firmy odmieta pokračovať vo vývoji AI, kým sa neprijmú zásadné bezpečnostné opatrenia.
Skúsenosti z oboch najväčších firiem
Coxon nie je žiadny outsider. Pracoval v dvoch najväčších spoločnostiach zameraných na umelú inteligenciu, čo jeho varovaniu dodáva na váhe. Tvrdí, že vnútorné prostredie týchto firiem ho presvedčilo o tom, že komerčný tlak a snaha o prvenstvo prevažujú nad bezpečnosťou. „Všetkých nás to môže zabiť,“ uviedol podľa dostupných informácií.
Jeho postoj podporili aj ďalší ľudia pôsobiaci v AI sektore, ktorí si želajú zostať v anonymite. Podľa ich vyjadrení nejde o ojedinelý názor, ale o rastúci problém, ktorý si vnútri odvetvia čoraz viac uvedomujú. Viacerí odborníci už dávnejšie upozorňujú, že vývoj bez dostatočných regulačných rámcov môže viesť k nekontrolovateľným situáciám.
Anthropic sa k odchodu svojho bývalého zamestnanca zatiaľ oficiálne nevyjadril. Coxonovo rozhodnúť opustiť firmu a verejne prehovoriť však poukazuje na hlbšie rozpory v oblasti, ktorá zažíva bezprecedentný rozmach. Otázka, či súčasné tempo vývoja umelej inteligencie nie je príliš rýchle, sa tak dostáva do popredia aj mimo odborných kruhov.
Prípad poukazuje na to, že aj samotní tvorcovia AI technológií pociťujú zodpovednosť za možné dôsledky. Ak sa k Coxonovi pridajú ďalší insideri, môže to ovplyvniť dôveru investorov aj verejnosti. Zatiaľ nie je jasné, aké konkrétne kroky by mohli nasledovať, no diskusia o bezpečnosti AI sa tým dostáva na novú úroveň.
