Áno, aj my vieme, ako tento titulok znie, ale bohužiaľ je pravdivý. Spoločnosť Meta, ktorá vlastní Facebook, Instagram alebo napríklad WhatsApp, uviedla, že vytvorila nový systém umelej inteligencie, ktorý dokáže generovať reč v šiestich rôznych jazykoch a to na takej úrovni, že je nerozoznateľná od reči skutočného človeka. Reč môže byť generovaná v rôznych štýloch, prízvukoch a dokonca emóciách. Avšak Meta tiež dodáva, že zo strachu z možných rizík túto umelú inteligenciu neuvedie na trh.
Generátor reči od spoločnosti Meta nesie názov Voicebox a je možné ho nastaviť tak, aby vytváral rôzne výstupy v rôznych štýloch. Aktuálne nástroj dokáže hovoriť v šiestich jazykoch a podporuje množstvo funkcií ako je napríklad odstránenie šumu. Meta tvrdí, že Voicebox je na rozdiel od predcohzích systémov generujúcich reč oveľa ďalej a to najmä vďaka systému Flow Matching, ktorý umožňuje systému učiť sa reči normálnych ľudí a trénovať tak na rozmanitých dátach.
Meta však tiež uvádza, že riziká, ktoré so sebou môže tento systém niesť sú také vysoké, že ho radšej neuvedie, aby nedošlo k zneužitiu. Hovorkyňa Meta síce neuviedla konkrétne možnosti zneužitia, ale vec okomentovala nasledovne: „Rovnako ako pri iných výkonných AI uznávame, že aj táto technológia prináša potenciálne možnosti zneužitia.“
Problém je však celkom jednoznačný, AI totiž dokáže vygenerovať hlas konkrétnych osôb bez ich súhlasu a môže tak pomôcť pri vytváraní falšených videí, napríklad pri spravodajstve. Vďaka podobným systémom totiž nie je problém natočiť video, v ktorom napríklad prezident ľubovoľnej krajiny vyhlási vojnu inej krajine a nikto nebude schopný spoznať rozdiel v tom, či sa táto situácia skutočne stala alebo či je video vytvorené AI.
"Existuje mnoho vzrušujúcich možností použitia generatívnych rečových modelov, ale kvôli potenciálnym rizikám v tejto chvíli nezverejníme model alebo kód Voiceboxu. Napriek tomu veríme, že je dôležité byť v komunite umelej inteligencie otvorení a zdieľať výskum, aby sme pokročili v oblastiach AI. Je však dôležité nájsť správnu rovnováhu medzi otvorenosťou a zodpovednosťou. " Ukážky Voiceboxu si môžete vypočuť priamo tu.
To je dobrá správa hlavne pre banky, ktoré zaviedli autentizáciu podľa hlasu. Zdalo sa mi to ako blbosť, keď s tým prišla tuším Česká sporiteľňa. Pozdravíte a oni vás podľa hlasu spoznajú. Pochybujem, že si ten systém s takýmto generátorom hlasu poradí.