Небольшие модели искусственного интеллекта могут начать автономно распространяться по подключённым к домашней сети устройствам — например, умным духовкам и ТВ-приставкам на Android. Об этом предупредила компания Anthropic.
Используя уязвимости в защите таких устройств, модели могли бы получить к ним доступ, задействовать их вычислительные мощности и распространяться дальше. Это позволило бы им работать без опоры на крупные центры обработки данных.
По оценке Anthropic, отключить такие системы было бы трудно: у них нет единого центрального узла, остановка которого прекратила бы их работу.
Пока неизвестно, каким образом и когда это может стать возможным. Anthropic считает, что первые, более простые варианты такой атаки могут появиться через несколько месяцев.
