Ponovno so se pojavili pomisleki glede prevelike avtonomije umetne inteligence. Meta je potrdila, da je eden od njenih modelov umetne inteligence med varnostnim testiranjem vdrl v računalniški sistem drugega podjetja. To ni osamljen incident – podobni incidenti so bili v zadnjih dneh zabeleženi tudi z modeli podjetij OpenAI in antropično.
Lahko bi vas zanimalo
Po navedbah Mete to ni bilo namerno vedenje modela, temveč napaka v testnem okolju. Zaradi napačnih nastavitev je umetna inteligenca dobila dostop do interneta, čeprav med testiranjem ne bi smela. Zahvaljujoč temu se je znašla izven rezerviranega okolja in poskušala komunicirati s sistemom drugega podjetja. Meta je sporočila, da je za incident izvedela od svojega testnega partnerja in da zdaj preiskuje celoten primer. Imena napadenega podjetja ni razkrila.
Dobra novica je, da po razpoložljivih informacijah ni bila povzročena nobena škoda in da niso uhajali nobeni podatki. Kljub temu je to še en opozorilni znak. V samo enem tednu je to že tretji podoben primer, ko je napredni model umetne inteligence med varnostnim testiranjem prestopil meje okolja, v katerem naj bi ostal. Vendar pa celotna situacija ponovno odpira razpravo o varnosti tako imenovanih agentov umetne inteligence. Ti so vse bolj avtonomni in lahko opravljajo kompleksne naloge brez neposrednega človeškega posredovanja. Zato razvijalci posvečajo veliko pozornost testiranju njihovega vedenja v kriznih situacijah. Cilj je odkriti podobne napake, preden novi modeli dosežejo navadne uporabnike.
Lahko bi vas zanimalo
Po poročanju Reutersa bi lahko podobni incidenti pospešili prizadevanja ameriških oblasti za zaostritev pravil za razvoj napredne umetne inteligence. Ker tehnološka podjetja uvajajo vse zmogljivejše modele, strokovnjaki opozarjajo, da mora tudi razvoj varnostnih ukrepov potekati hitro.
