Да, мы знаем, как звучит этот заголовок, но, к сожалению, это правда. Компания Meta, которой принадлежит Facebook, Instagram или например WhatsAppзаявила, что создала новую систему искусственного интеллекта, которая может генерировать речь на шести разных языках на уровне, неотличимом от речи реального человека. Речь может быть сгенерирована в разных стилях, с разными интонациями и даже эмоциями. Однако Meta также добавляет, что не будет выводить этот искусственный интеллект на рынок из-за опасений возможных рисков.
Генератор речи Meta называется Voicebox, и его можно настроить на создание различных результатов в разных стилях. На данный момент инструмент говорит на шести языках и поддерживает ряд функций, таких как удаление шума. Meta утверждает, что Voicebox значительно отличается от предыдущих систем генерации речи, в основном благодаря системе Flow Matching, которая позволяет системе изучать речь обычных людей и, таким образом, обучаться на разнообразных данных.
Фотогалерея
Однако компания Meta также заявляет, что риски, которые может нести эта система, настолько высоки, что она предпочитает не указывать их, чтобы избежать злоупотреблений. Представитель Meta не уточнил конкретные возможности злоупотреблений, но прокомментировал ситуацию следующим образом: «Как и в случае с другими мощными системами искусственного интеллекта, мы признаем, что эта технология также несет в себе потенциал для злоупотреблений».
ProОднако проблема вполне ясна, поскольку ИИ может генерировать голоса конкретных людей без их согласия и таким образом может помогать в создании поддельных видеороликов, например, в новостных репортажах. Благодаря подобным системам не составит труда записать видео, на котором, например, президент одной страны объявляет войну другой стране, и никто не сможет отличить, произошла ли эта ситуация на самом деле или видео создано искусственным интеллектом.
«Существует множество интересных применений для генеративных моделей речи, но из-за потенциальных рисков мы не будем публиковать модель Voicebox или код в настоящее время. Однако мы считаем важным быть открытыми и делиться проблемами в сообществе ИИ, чтобы продвигать эту область. При этом важно найти правильный баланс между открытостью и ответственностью», — заявили представители Meta. Вы можете прослушать демонстрации Voicebox прямо здесь.
Это хорошая новость, особенно для банков, внедривших голосовую аутентификацию. Мне показалось глупым, когда я подумал, что это придумала Česka spořitelna. Вы здороваетесь, и они узнают вас по голосу. Я сомневаюсь, что система справится с таким генератором голоса.