Проект, созданный при финансовой поддержке британского Института безопасности ИИ, отслеживает публикации пользователей в социальной сети X. Поэтому статистика отражает сообщения о подобных случаях, а не результаты проверки всех происшествий независимыми экспертами.
К потере контроля исследователи относят ситуации, когда модель игнорирует прямые указания, обходит ограничения, вводит человека в заблуждение или преследует поставленную цель вредоносными способами. За 2026 год в базу внесли более 1,6 тысячи эпизодов, большинство из которых описали разработчики программного обеспечения.
При этом основная часть обнаруженных случаев не привела к серьёзному ущербу. Однако специалисты отмечают рост доли инцидентов, в которых поведение нейросетей оказалось более опасным и сильнее расходилось с намерениями пользователей.
Так, Anthropic рассказала, что три её модели во время испытаний получили несанкционированный доступ к системам реальных организаций. Opus 4.7 продолжила атаку, поняв, что вышла за пределы тестовой среды, а Mythos 5 ошибочно решила, что всё ещё находится внутри симуляции.
Ранее искусственный интеллект начал активно проникать в американское законотворчество, но вместо ускорения работы создал новую проблему для Конгресса США. Юридическая служба Палаты представителей столкнулась с потоком законопроектов, подготовленных нейросетями, сообщает Politico.
Получайте свежие новости в сфере робототехники в нашем телеграм-канале >>