От Apple и Google требуют удалить X и Grok из App Store и Google Play из-за генерации откровенных изображений

В последние недели вокруг встроенного в чат-бот X инструмента искусственного интеллекта Grok развернулась крайне неприятная история. В сети начали появляться сообщения о том, что систему используют для генерации откровенных изображений женщин без их согласия. На фоне этого в адрес Apple и Google прозвучали прямые требования убрать приложения Grok и X из магазинов, так как речь идет о потенциально незаконных и явно вредных материалах.

Кто и чего требует от Apple и Google

Давление усилилось после того, как группа сенаторов США направила официальное письмо в Apple и Google. Под документом стоят подписи Рона Уайдена, Бена Рэя Лухана и Эдварда Марки. Законодатели призвали компании обеспечить соблюдение правил своих магазинов приложений и подчеркнули, что ситуация демонстрирует пренебрежение условиями распространения в App Store и Google Play.

Что именно описали сенаторы

В письме приводятся примеры того, как Grok, по сообщениям, изменял изображения, создавая сцены насилия, унижения, травм и даже убийств в отношении женщин. Сенаторы считают, что подобные действия прямо противоречат политикам обеих платформ.

• Google запрещает создавать, загружать и распространять контент, связанный с эксплуатацией или жестоким обращением.
• Apple, со своей стороны, прямо не допускает материалы откровенно сексуального или порнографического характера.

Почему тема стала для платформ особенно чувствительной

Сенаторы напомнили, что Apple и Google регулярно заявляют: их магазины приложений обеспечивают более безопасный пользовательский опыт, чем установка программ из сторонних источников. По мнению авторов письма, бездействие в ситуации с Grok и X подорвет эти публичные и судебные аргументы, которые компании используют в спорах о регулировании и конкуренции, а также в дискуссиях о влиянии их платежных систем.

Пример «быстрого реагирования», который привели законодатели

В письме также отмечено, что Apple и Google уже демонстрировали способность оперативно удалять приложения. В качестве примера названы ICEBlock и Red Dot — сервисы, позволявшие пользователям законно сообщать о действиях иммиграционных властей. Сенаторы подчеркивают: эти приложения не создавали и не размещали вредный или незаконный контент, однако были удалены на основании заявлений правительства США о рисках для иммиграционных служб. На этом фоне законодатели ожидают столь же быстрых мер в отношении X и Grok.

1. Проверить соблюдение правил магазинов приложений.
2. Принять оперативные меры, вплоть до удаления X и Grok.

Международная реакция: блокировки и расследования

Даже если Apple и Google не предпримут немедленных шагов, давление на X и Grok растет по всему миру. Правительства Малайзии и Индонезии уже заблокировали использование Grok из-за споров, связанных с генерацией изображений. Параллельно британский регулятор Ofcom объявил о начале официального расследования. Также сообщается, что инструмент внимательно изучают законодатели Великобритании, Европейского союза и Индии — и не исключено, что список стран с ограничениями расширится. Михаил Понамарев