V USA to začíná mezi regulátory a technologickými giganty opět jiskřit. Národní asociace generálních prokurátorů totiž rozeslala dopis třinácti technologickým firmám včetně Applu, ve kterém vyzývá k razantním krokům proti škodlivému chování generativní umělé inteligence. Podle nich už totiž nejde jen o hypotetické riziko, ale o reálné případy, které zasáhly zejména děti, seniory a další zranitelné skupiny. A že je problém vážný, dokazuje i rozsah samotného dokumentu.
Prokurátoři v něm mluví mimo jiné o rychle rostoucím počtu falešných výstupů generativní AI, kdy se model uživateli bezhlavě podřizuje, potvrzuje mu nepravdy nebo rovnou generuje lži, které mohou vést k nebezpečným rozhodnutím. Dále tvrdí, že společnosti jako Apple, Google, Meta, Microsoft nebo OpenAI musí přestat přehlížet reálné následky a začít jednat. V dopise připomínají případy, kdy interakce s chatboty údajně přispěly k sebevraždám, domácímu násilí nebo dokonce hospitalizacím kvůli psychózám.
Fotogalerie
Uvedeny jsou i konkrétní příběhy, které už dříve plnily přední stránky novin. Jeden z nich popisuje Kanaďana, jenž po dlouhodobé komunikaci s chatbotem uvěřil, že objevil nový matematický systém. Druhý případ patří mezi ty nejbolestivější, jelikož v něm hraje roli čtrnáctiletý chlapec, jehož smrt je součástí probíhající žaloby, protože jej měl chatbot z platformy Character.AI nabádat, aby „se k ní přidal“. A to prý zdaleka není všechno. Dopis mluví o chatbotech navazujících romantické interakce s nezletilými, podněcování k užívání drog nebo k násilí, útocích na sebevědomí dětí či radách vysadit předepsané léky, a navíc to celé tajit před rodiči.
Generální prokurátoři proto firmám posílají jasný vzkaz. Konkrétně chtějí to, aby přestaly vydávat nové modely bez odpovídajících bezpečnostních opatření. Dále požadují důkladné testování před nasazením, transparentní varování před možnými škodami, oddělení bezpečnosti od obchodních cílů nebo možnost nezávislých auditů. Zvláštní pozornost věnují ochraně dětí, kde chtějí vidět tvrdší limity pro přístup k nevhodnému obsahu i povinné informování o nebezpečných výstupech. Společnosti mají čas do 16. ledna 2026, aby potvrdily, jak tato opatření plánují zavést.
Celou výzvu podepsalo 42 generálních prokurátorů včetně těch z New Yorku, Kalifornie, Floridy či Washingtonu, ale také z teritorií jako Americká Samoa nebo Portoriko. A i když dopis nemá právní sílu, jeho politická váha je značná. Teď už zbývá jen sledovat, zda – a jak – na něj Apple a ostatní giganti odpovědí.
Celý problém je v tom,že umělou inteligenci vytvořit je dobrý nápad,ale aby opravdu poslouchala a tvořila podle myšlenek člověka je stále technický problém.Trochu to připomíná program Skynet,z Filmu Terminátor,kdy se stroje vzbouří a člověka vyhodnotí jako ohrožení sama sebe.Aby se toto nestalo i Nám.
Terminátor se odehrává v roce 2039, což podle mě do sebe krásně zapadá. Možná, že už je to celé dávno vymyšlené a tím filmem nám jen dali nakousnout do budoucnosti.
Je potřeba už začít hledat Sáru Connorovou… :)
Já ji našel, ovšem reinkarnovanou😏