ИИ Маска Grok использовали для создания порно: в Британии говорят о запрете Х

Илон Маск попал в очередной мировой скандал — на сей раз из-за искусственного интеллекта Grok, разработанного компанией миллиардера «X.AI Corp.»

Мировые СМИ и политики во всю «разносят» Маска, его соцсеть Х и непосредственно Grok, а все из-за создания пользователями в этом чат-боте сексуализированных изображений. Использовали для этого, как правило, непосредственно платформу X, интегрированную с Grok, а именно — инструмент «Grok Imagine». Причем на порно-картинках зачастую оказывались не вымышленные, а вполне реальные люди.

«Исследование, опубликованное Guardian, показало, что Grok использовался для создания порнографических видеороликов с участием женщин без их согласия, а также изображений женщин, застреленных и убитых. Маску грозит угроза регулятивных мер со всего мира после того, как Grok был использован для создания сексуальных изображений без согласия», — пишет британское издание The Guardian.

Скандал уже привел к тому, что в Великобритании на самом высоком уровне обсуждают запрет соцсети «Х» (бывшего Twitter), к которой «привязан» Grok. Премьер-министр Великобритании Кир Стармер 7 января пригрозил принять жесткие меры против компании Маска. Он потребовал, чтобы X «взял под контроль» поток созданных с помощью ИИ фотографий частично одетых женщин и детей на платформе. Также Стармер заявил, что необходимо рассмотреть вопрос фактического запрета Х, сославшись на готовность регулятора связи Ofcom работать в этом направлении.

«Это незаконно. Мы не собираемся это терпеть. Я попросил рассмотреть все варианты. Это отвратительно. В X должны взять себя в руки и удалить этот материал. Мы примем меры, потому что это просто недопустимо», — заявил британский премьер.

Сейчас, по данным журналистов, Grok отключил функцию создания изображений для большинства пользователей. Однако функцию редактирования оставили платным подписчикам.

«В сообщении на странице Grok в социальной сети Маска X говорится: «Создание и редактирование изображений в настоящее время доступны только платным подписчикам». Это означает, что подавляющее большинство пользователей платформы не могут создавать изображения с помощью Grok. Те, кто может, должны сохранить свои полные данные и информацию о кредитных картах в X, поэтому их можно будет идентифицировать в случае неправомерного использования функции», — пояснило СМИ.

Такую «полумеру» однопартийцы Стармера из Лейбористской партии считают недостаточной.

Читайте также: Заберет ли ИИ работу у харьковчан: мнение главы IT-кластера (видео)

«Хотя удаление всеобщего доступа к отвратительным функциям Grok, позволяющим обнажать женщин, является шагом вперед, это все еще означает, что платящие пользователи могут делать снимки женщин без их согласия, чтобы сексуализировать и подвергать их жестокому обращению. Плата за нанесение спермы, пулевых отверстий или бикини на женщин по-прежнему является цифровым сексуальным насилием, и xAI должна навсегда отключить эту функцию», — заявила депутат от лейбористов Джесс Асато.

Отметим, функция создания изображений есть у различных искусственных интеллектов. Также подобные возможности предлагают сервисы, использующие возможности ИИ. При этом, как правило, на тематику изображений установлены ограничения, исключающие создание порно, сцен жестокости и так далее. В целом же в мире активно набирает обороты дискуссия о том, как урегулировать генерацию изображений и видео с помощью искусственного интеллекта. Так как этот функционал позволяет создавать фейки и вводить людей в заблуждение.