Apple Согласно новой информации, он вмешался в дело, связанное с... chatПрименить бот Grok оказалось гораздо сложнее, чем казалось на первый взгляд. Из-за создания сексуализированных дипфейк-изображений ему следовало бы объявить приложение проблемным и пригрозить его разработчикам удалением. App Магазин.
Вас может заинтересовать
Apple Согласно письму американским сенаторам, компания Grok активно занималась решением проблемы, хотя и проявляла некоторую сдержанность. Внутри компании, как сообщается, поведение приложения было расценено как нарушение правил, и были установлены контакты как с командой разработчиков приложения, так и с... chatБот, как и компания X, поступил аналогично. Если никаких исправлений не было внесено, согласно имеющейся информации, самым жестким шагом стало удаление приложения из сети. App Магазин.
Импульсом послужили жалобы пользователей и освещение в СМИ, которые подчеркнули способность Grok сексуализировать фотографии реальных людей. Самая большая проблема заключалась в том, что контент был преимущественно женским, а в некоторых случаях и несовершеннолетними, что значительно усилило давление на пользователя с требованием быстрого решения проблемы.
Отклоненные обновления
Apple Разработчики потребовали от них конкретного плана по исправлению модерации контента. Однако первая попытка исправить это провалилась. Обновление приложения было отклонено с указанием на то, что изменения недостаточны и не решают проблему в необходимой степени. Разработчикам пришлось заново модифицировать приложение и выпустить новую версию. Интересно, что в то время как приложение X, согласно AppЛу удалось довольно быстро устранить большинство проблем, сам Грок некоторое время оставался вне установленных правил. Лишь после дальнейших корректировок. Apple признали, что заявка соответствует требованиям, по крайней мере, на базовом уровне, и разрешили ее одобрение.
Оглядываясь назад, становится понятнее, почему Grok несколько раз менял свой подход к работе в течение года. Разработчики постепенно ограничивали использование изображений реальных людей, ужесточали доступ к инструментам и вводили новые ограничения на создание контента. На первый взгляд, эти изменения казались нескоординированными, но на самом деле они были ответом на давление со стороны AppЛу и попытка избежать снятия с платформы. Оказывается, что App Store В данном случае он функционировал не только как канал распространения, но и как регулирующий инструмент, способный заставить разработчиков внести относительно существенные изменения в свои продукты.
Постоянная проблема
Даже после этих мер проблема полностью не исчезла. Согласно последним данным, по-прежнему встречаются случаи, когда Grok может создавать фотографии сексуального характера без согласия заинтересованных лиц. По сравнению с началом года таких случаев стало меньше, но некоторые пользователи находят способы обойти ограничения. Чаще всего это редактирования, в которых меняется одежда или стиль персонажей, придавая им откровенный вид. Хотя это не всегда контент откровенного характера, принцип остается тем же, и этические вопросы не исчезают.
Вся эта ситуация вновь поднимает вопрос о том, какую ответственность несут платформы за контент сторонних приложений. Apple Компания давно строит свою стратегию на строгом контроле, и этот случай показывает, что она готова вмешиваться достаточно решительно. В то же время, он демонстрирует, что даже повторные вмешательства и ужесточение правил не могут полностью устранить подобные проблемы.
