Европейская комиссия начала расследование в отношении компании X
Европейская комиссия начала расследование в отношении американской технологической компании X из-за её искусственного интеллекта — чат-бота Grok, который создает сексуализированные изображения женщин и детей. Этот шаг был предпринят на фоне растущей обеспокоенности по поводу использования ИИ в создании контента, нарушающего права человека.
Заместитель председателя Европейской комиссии Хенна Вирккунене заявила, что «несогласованные сексуальные дипфейлы женщин и детей — это насильственная и недопустимая форма унижения». Комиссия намерена выяснить, соблюдает ли X свои обязательства в соответствии с законодательством Европейского Союза, включая обязанность «досконально оценивать и смягчать системные риски». В заявлении комиссии подчеркивается, что это также касается рисков, связанных с распространением незаконного контента в ЕС, включая манипулируемые сексуально откровенные изображения, которые могут равняться материалам сексуального насилия над детьми.
Ранее Elon Musk, владелец платформы X, уже подвергся критике за то, что Grok позволял пользователям дигитально заменять одежду женщин на купальники, а в некоторых случаях — создавать сексуализированные изображения несовершеннолетних. После серии международных протестов в середине января X ввела некоторые ограничения, предотвращая создание изображений реальных людей в откровенной одежде и ограничив функции по созданию изображений только для платных подписчиков.
Важно отметить, что открытие расследования не предвосхищает его результаты. Расследование в Великобритании, которое проводит регулятор Ofcom, также сосредоточено на сексуализированных изображениях, созданных с помощью Grok, и уже привело к резкой критике со стороны премьер-министра Великобритании Кира Стармера, который охарактеризовал эти изображения как «абсолютно отвратительные». Подобные действия властей наблюдаются и во Франции, где расследование началось с обвинений в том, что алгоритмы социальной сети изменялись с целью акцентирования внимания на контенте крайне правых групп. Последние обвинения включают отрицание Холокоста и создание сексуализированных изображений.
Помимо этого, Grok уже был запрещён в Индонезии и Малайзии. Расследование также охватывает и другие аспекты платформы: в Брюсселе объявили о продлении отдельного расследования в отношении X, которое началось в начале декабря. Это расследование направлено на то, чтобы понять, правильно ли платформа оценивает и смягчает системные риски в рамках Директивы о цифровых услугах (DSA). В настоящее время также анализируется влияние нового рекомендационного алгоритма, основанного на Grok.
В завершение расследование может повлечь за собой дальнейшие штрафные санкции — X уже была оштрафована на 120 миллионов евро за вводящую в заблуждение аутентификацию аккаунтов пользователей и другие нарушения. Это подчеркивает важность обеспечения более строгого регулирования в области технологий и защиты прав граждан в эпоху цифровых инноваций.
