Zavřít reklamu

Nahání vám umělá inteligence hrůzu? Nejste sami. V nově zveřejněném dokumentu Mety se totiž lze dočíst, že se i tato společnost obává, co přinese budoucnost na poli AI, přičemž strach má dokonce i ze svých vlastních projektů. Ty by se jí totiž mohly podařit vyvinout zcela náhodně, ale i přesto by mohly vést ke katastrofickým výsledkům pro lidstvo.

V nedávno zveřejněném dokumentu, který nese název Frontier AI Framework, píše Meta konkrétně o dvou typech rizikových AI systémů – konkrétně o systémech s vysokým rizikem a s kritickým rizikem. V obou případech se pak jedná o systémy, které mohou potenciálně pomáhat útočníkům při kybernetických, chemických či biologických útocích a to například tak, že budou natolik pokročilé, že dokáží snadno bez pomoci člověka prolomit nejrůznější zabezpečovací systémy a tak podobně. V dokumentu Meta hovoří například o AI, která se dokáže nabourat do jakékoliv počítačové sítě, aniž by potřebovala jakoukoliv pomoc od lidí. 

Právě s ohledem na obavy, které umělá inteligence v Metě vzbuzuje, jsou práce na veškerých potenciálně rizikových AI modelech enormně monitorovány, přičemž jakmile se při nich objeví jakékoliv riziko, okamžitě je celý projekt zastaven a zajišťuje se u něj, aby nemohlo dojít k jeho omezení. Samotná Meta však připouští, že ono omezení nemusí být vždy úplně možné. S trochou nadsázky se tak dá říci, že lidé kolem Marka Zuckerberga očekávají příchod Skynetu z Terminátora a my jen můžeme doufat, že budou natolik schopní, že jej odvrátí. 

Související články

Dnes nejčtenější

.