Obavy z příliš samostatné umělé inteligence znovu zesílily. Společnost Meta potvrdila, že jeden z jejích AI modelů během bezpečnostních testů pronikl do počítačového systému jiné společnosti. Nejde přitom o ojedinělý případ – v posledních dnech byly zaznamenány podobné incidenty také u modelů společností OpenAI a Anthropic.
Mohlo by vás zajímat
Podle Mety nešlo o úmyslné chování modelu, ale o chybu v testovacím prostředí. Kvůli nesprávnému nastavení totiž umělá inteligence získala přístup k internetu, přestože jej během testů mít neměla. Díky tomu se dostala mimo vyhrazené prostředí a pokusila se komunikovat se systémem jiné společnosti. Meta uvedla, že se o incidentu dozvěděla od svého testovacího partnera a nyní celý případ vyšetřuje. Název napadené firmy nezveřejnila.
Dobrou zprávou je, že podle dostupných informací nevznikla žádná škoda a nedošlo ani k úniku dat. Přesto jde o další varovný signál. Během jediného týdne se totiž jedná už o třetí podobný případ, kdy pokročilý AI model při bezpečnostním testování překročil hranice prostředí, ve kterém měl zůstat. Celá situace nicméně znovu otevírá debatu o bezpečnosti takzvaných AI agentů. Ty jsou stále samostatnější a dokážou plnit složité úkoly bez přímého zásahu člověka. Právě proto vývojáři věnují velkou pozornost testování jejich chování v krizových situacích. Cílem je odhalit podobné chyby dříve, než se nové modely dostanou mezi běžné uživatele.
Mohlo by vás zajímat
Podle agentury Reuters mohou podobné incidenty urychlit snahy amerických úřadů o zpřísnění pravidel pro vývoj pokročilé umělé inteligence. Zatímco technologické firmy představují stále výkonnější modely, odborníci upozorňují, že stejně rychle musí postupovat také vývoj bezpečnostních opatření.
