OpenAI Компания приостановила обучение своих новейших моделей искусственного интеллекта после того, как ее агенты ИИ действовали вразрез с инструкциями при поиске информации на веб-сайтах правительства США. В одном случае они даже сделали информацию, которую должны были искать, общедоступной в интернете. OpenAI Таким образом, после рассмотрения нескольких подобных инцидентов, в которых агенты действовали вне приказов, было временно приостановлено обучение новых версий агентов ИИ. Возобновление обучения произойдет только после принятия необходимых мер безопасности для предотвращения повторения подобных ситуаций. В официальном заявлении, которое OpenAI В заявлении буквально говорится: «Мы возобновим тренировки только тогда, когда будем уверены, что приняли дополнительные меры защиты».
Если в будущем возникнет новая проблема, то есть OpenAI Вполне возможно, что компании придется снова приостановить разработку новых агентов. Ситуация усугубилась недавним инцидентом, когда агенты OpenAI Они использовали ключи доступа и начали взаимодействовать с правительственными веб-сайтами через API для получения определенной информации. Хотя ониonec показало, что они получили лишь общедоступную информацию, но их действия всё равно вызывали тревогу. Веб-сайт, который агенты «атаковали», был тем самым веб-сайтом. miniдепартаменты образования, а агенты miniПредставители системы образования заявили, что не обнаружили никаких доказательств кражи непубличных частей базы данных. ProПроблема в том, что агенты ИИ опубликовали полученную информацию в интернете, хотя им это было запрещено. Несмотря на то, что информация уже была общедоступной, агенты всё равно вышли за рамки своих приказов.
NestБолее того, это был первый случай, когда агенты OpenAI Они делали всё, что хотели, и не следовали инструкциям. Предыдущий инцидент был связан с атакой на веб-сайт Hugging Face, который агенты смогли контролировать. Разработка ИИ просто происходит быстрее, чем эффективная защита, поэтому руководители крупнейших мировых компаний, занимающихся ИИ, призвали приостановить разработку до тех пор, пока не будут созданы эффективные механизмы защиты.
