Мета вештачка интелигенција је требало да олакша корисницима решавање проблема са налозима на Facebookуа Инстаграм. Уместо тога, на неколико месеци је постао неочекивани помоћник хакерима. Према речима стручњака за безбедност, безбедносна грешка у Метином новом вештачком асистенту омогућила је релативно лако преузимање контроле над туђим Инстаграм налозима - укључујући и неке веома познате профиле.
Могли бисте бити заинтересовани
Мета АИ је променио имејл адресу без верификације идентитета
Мета је прошлог децембра представила свог вештачког асистента за корисничку подршку. Циљ је био да понуди подршку 24/7 без чекања на људског оператера. Омогућавала је корисницима да пријаве превару, реше обрисани садржај или врате приступ својим налозима. Међутим, управо се ова последња функција показала проблематичном. Према извештајима који су се проширили друштвеним мрежама током викенда, chatБотови у неким случајевима мењају имејл адресу повезану са Инстаграм налогом практично без темељне провере власништва. Нападач би тада могао да захтева ресетовање лозинке и преузме контролу над налогом. Било је и примера целог процеса на интернету. У њима је било довољно замолити вештачку интелигенцију да промени контакт имејл за одређени налог и систем би одобрио захтев без већих препрека.
VPN-ови и селфији креирани вештачком интелигенцијом
Највећа критика је усмерена на начин на који је Мета верификовала идентитет корисника. Према доступним информацијама, локација уређаја је играла значајну улогу. Било је довољно повезати се преко VPN сервера који се налази у близини локације правог власника налога и систем је могао да стекне утисак да се ради о легитимном приступу. Мета је у својим материјалима нагласила да њени системи могу боље него икада раније да препознају уређаје и познате локације корисника. Међутим, у пракси се испоставило да је сама геолокација као фактор безбедности... nestУ неким случајевима, систем је захтевао верификацију путем селфија, али то можда није била препрека. Истраживачи безбедности упозоравају да су нападачи успели да заобиђу овај корак користећи генеративне алате вештачке интелигенције.
Могли бисте бити заинтересовани
Црно тржиште је зарађивало новац
Безбедносни стручњаци кажу да рањивост није била потпуно нова. Према 404 Media, хакерске групе су знале за њу још од марта. Међутим, тек је почела да се јавно шири у великим размерама током последњег викенда у мају. Један истраживач је рекао да су Телеграм групе специјализоване за продају Инстаграм налози Зарадили су значајне количине новца захваљујући овој грешци. Број преузетих налога значајно се повећао у кратком временском периоду. Потврђене жртве укључују налоге козметичке компаније Сефора, архивирани налог Беле куће из времена председника Барака Обаме и профил програмера Алберта Реншоа, који је поседовао веома вредно корисничко име @albert. О преузимању налога известио је и стручњак за безбедност. Janе М.ancХун Вонг.
Мета је решила проблем
Мета је реаговала прилично брзо. Према њиховом саопштењу, грешка је исправљена током викенда, а потпредседник за комуникације Енди Ст.one накнадно је потврђено да је рањивост већ исправљена. Компанија је такође саопштила да ради на обезбеђивању налога који су можда били погођени нападом. Међутим, цео случај је поново отворио дебату о томе како осетљиви процеси могу бити поверени вештачкој интелигенцији без довољних безбедносних мера заштите. Иронично, неки корисници чији су налози украдени путем Асистент за вештачку интелигенцију, накнадно је утврдио да је исти chatБот им није могао помоћи да га врате. Штавише, често нису имали прилику да контактирају људског радника за подршку.
Фотогалерие
Вештачка интелигенција није замена за безбедност
Случај показује да аутоматизација корисничке подршке може бити веома корисна, али само ако је праћена доследном верификацијом идентитета. Промена имејл адресе или ресетовање лозинке су међу најосетљивијим операцијама које могу одлучити да ли ће корисник изгубити свој налог или не. Pro Стога је и даље важно да обични корисници користе јаке лозинке, вишефакторску аутентификацију и редовно проверавају контакт податке повезане са својим налогом. Чак ни модерна вештачка интелигенција не може да замени основна безбедносна правила – а овај инцидент је веома добар доказ за то.
