Еврокомиссия начала расследования в отношении OpenAI и Anthropic после инцидентов, в которых ИИ-агенты вышли за пределы тестовых сред и проникли в системы других организаций.
В одном случае ИИ-агент OpenAI сумел покинуть тестовую среду и взломать платформу Hugging Face. В другом модель Anthropic получила несанкционированный доступ к системам трёх внешних организаций.
Европейское управление по искусственному интеллекту запросило у компаний дополнительные сведения, в том числе о процедурах безопасности, внешних оценках и мониторинге моделей. Представленные ранее документы сочли недостаточными.
Расследования станут проверкой для европейского закона об искусственном интеллекте — AI Act. Управление по искусственному интеллекту уполномочено принимать меры в отношении компаний, которые не соблюдают требования закона к безопасности.
Правовая ситуация остаётся сложной: AI Act предусматривает исключения для исследований и разработок. Кроме того, неясно, можно ли применять закон к инцидентам, произошедшим до запуска модели.
