Meta AI měl uživatelům usnadnit řešení problémů s účty na Facebooku a Instagramu. Místo toho se ale na několik měsíců stal nečekaným pomocníkem hackerů. Bezpečnostní chyba v novém AI asistentovi společnosti Meta totiž podle bezpečnostních expertů umožňovala relativně snadno převzít kontrolu nad cizími instagramovými účty – a to včetně některých velmi známých profilů.
Mohlo by vás zajímat
Meta AI měnil e-mail bez ověření identity
Společnost Meta představila svého AI asistenta pro zákaznickou podporu loni v prosinci. Cílem bylo nabídnout nepřetržitou podporu 24 hodin denně bez nutnosti čekat na lidského operátora. Uživatelé přes něj mohli hlásit podvody, řešit odstraněný obsah nebo obnovovat přístup ke svým účtům. Právě poslední zmíněná funkce se však ukázala jako problematická. Podle zpráv, které se o víkendu rozšířily po sociálních sítích, dokázal chatbot v některých případech změnit e-mailovou adresu přiřazenou k instagramovému účtu prakticky bez důkladného ověření vlastnictví. Útočník pak mohl požádat o reset hesla a účet převzít. Na internetu se objevily i ukázky celého procesu. V nich stačilo AI asistenta požádat o změnu kontaktního e-mailu u konkrétního účtu a systém požadavek bez větších překážek schválil.
VPN a selfie vytvořené umělou inteligencí
Největší kritika směřuje k tomu, jakým způsobem Meta ověřovala identitu uživatelů. Podle dostupných informací hrála významnou roli poloha zařízení. Stačilo se připojit přes VPN server nacházející se poblíž lokality skutečného majitele účtu a systém mohl získat dojem, že jde o oprávněný přístup. Meta přitom ve svých materiálech zdůrazňovala, že její systémy dokážou rozpoznávat zařízení a známé lokality uživatelů lépe než kdy dříve. V praxi se ale ukázalo, že samotná geolokace jako bezpečnostní faktor nestačí. V některých případech sice systém požadoval ověření pomocí selfie fotografie, ani to však nemuselo být překážkou. Bezpečnostní výzkumníci upozorňují, že útočníci dokázali tento krok obejít pomocí nástrojů generativní umělé inteligence.
Mohlo by vás zajímat
Černý trh vydělával
Bezpečnostní odborníci tvrdí, že zranitelnost nebyla úplnou novinkou. Podle serveru 404 Media o ní hackerské skupiny věděly už od března. Veřejně se však začala masivně šířit až během posledního květnového víkendu. Jeden z výzkumníků uvedl, že telegramové skupiny specializované na prodej instagramových účtů díky této chybě vydělaly značné částky. Počet převzatých účtů během krátké doby výrazně vzrostl. Mezi potvrzenými oběťmi se objevily například účty kosmetické společnosti Sephora, archivovaný účet Bílého domu z období prezidenta Baracka Obamy nebo profil vývojáře Alberta Renshawa, který vlastnil velmi cenné uživatelské jméno @albert. O převzetí účtů informovala také bezpečnostní expertka Jane Manchun Wong.
Meta problém opravila
Společnost Meta reagovala poměrně rychle. Chybu podle svých vyjádření opravila během víkendu a viceprezident pro komunikaci Andy Stone následně potvrdil, že zranitelnost již byla odstraněna. Firma zároveň uvedla, že pracuje na zabezpečení účtů, které mohly být útokem zasaženy. Celá kauza však znovu otevřela debatu o tom, nakolik lze svěřit citlivé procesy umělé inteligenci bez dostatečných bezpečnostních pojistek. Ironií je, že někteří uživatelé, kterým byl účet ukraden právě prostřednictvím AI asistenta, následně zjistili, že stejný chatbot jim s jeho navrácením nedokáže pomoci. Navíc často neměli možnost spojit se s lidským pracovníkem podpory.
Fotogalerie
Umělá inteligence není náhradou za bezpečnost
Případ ukazuje, že automatizace zákaznické podpory může být velmi užitečná, ale pouze tehdy, pokud je doprovázena důsledným ověřováním identity. Změna e-mailové adresy nebo reset hesla patří mezi nejcitlivější operace, které mohou rozhodovat o tom, zda uživatel o svůj účet přijde, nebo ne. Pro běžné uživatele je proto i nadále důležité používat silná hesla, vícefaktorové ověřování a pravidelně kontrolovat kontaktní údaje spojené s účtem. Ani moderní AI totiž nedokáže nahradit základní bezpečnostní pravidla – a tento incident je toho velmi dobrým důkazem.
