Расследование ЕС в отношении социальной сети X: новые угрозы для Илона Маска

После того как социальная сеть Илона Маска, X, получила штраф в размере 140 миллионов долларов за нарушения Закона о цифровых услугах (DSA), Европейский Союз инициировал официальное расследование в отношении платформы, которое может привести к новым значительным санкциям. На этот раз расследование касается того, адекватно ли X справилась с распространением сексуализированных изображений, созданных искусственным интеллектом.

Представитель ЕС Томас Ренье в ходе пресс-брифинга заявил: «Мы полагаем, что X могла нарушить DSA». Он отметил, что в последние недели на платформе было замечено антисемитское содержание, а также несанкционированные дипфейки с изображениями женщин и материалы сексуального насилия в отношении детей.

Первое официальное расследование ЕС было начато в конце 2023 года, менее чем через год после приобретения Маском X в октябре 2022 года, с целью выяснить, были ли нарушены правила в области прозрачности и рекламы.

Причиной исследования стал всплеск фото запросов к искусственному интеллекту. Несмотря на то, что у ЕС были претензии к X и раньше, нового импульса расследованию придало событие в канун Нового года, когда Маск попросил своего AI-бота Грок создать изображение с ним в бикини. В тот же день он перепостил изображение ракеты SpaceX, где другая пользовательница попросила Грок сделать её в бикини.

После этого произошёл рекордный рост вовлеченности пользователей на X. В период с 31 декабря до 8 января Грок выполнил запросы на создание более 4,4 миллиона изображений, тогда как за предыдущие девять дней пользователей запрашивали всего около 300,000 изображений.

Анализ, проведенный Центром противодействия цифровой ненависти, показал, что из выборки 20,000 сгенерированных изображений 65% оказались сексуализированными. Учитывая масштабы проблемы, некоммерческая организация предположила, что около 0,5% из этих сексуализированных изображений могут касаться детей.

В ответ на возникшую ситуацию, 3 января аккаунт безопасности X сообщил, что компания предпринимает меры против незаконного контента, включая материалы по сексуальному насилию в отношении детей (CSAM), посредством удаления таких материалов, постоянной блокировки аккаунтов и сотрудничества с местными властями и правоохранительными органами.

Компания также добавила, что любой, кто использует Грок для создания материалов сексуального насилия в отношении детей или несанкционированных сексуализированных изображений, «пострадает от тех же последствий, что и при загрузке незаконного контента». С мая действующий закон в США запрещает размещать или угрожать размещением «интимных изображений» без согласия человека в соответствии с Законом о «Снять это» (Take It Down Act), инициированным первой леди Меланией Трамп.

Таким образом, расследование со стороны ЕС подчеркивает растущие опасения по поводу роли социальных платформ в распространении контента, нарушающего правовые и этические нормы. Учитывая, что более 2 миллиардов человек взаимодействуют с X, вопрос контроля за контентом становится всё более актуальным. Разумеется, подобные действия могут привести к ещё более строгим регуляциям в сфере цифровых услуг, а также к значительным штрафам для компаний, не способных обеспечить безопасность своих пользователей.