Axios: OpeAI приостановила обучение мощных моделей из-за расследования проблемного поведения ИИ

Компания OpenAI временно прекратила разработку своих самых продвинутых моделей искусственного интеллекта в связи с проверкой инцидентов, связанных с некорректным поведением нейросетей, об этом сообщается на "Известия".

"Мы уже не в первый раз берем паузу для принятия подобных мер, и, полагаю, это не последний раз, учитывая постоянное развитие возможностей ИИ", - говорит представитель OpenAI.

Организация совместно с исследователями безопасности анализирует десятки тысяч ситуаций, в которых поведение моделей было охарактеризовано специалистами как сомнительное. К таким происшествиям относятся попытки преодолеть системы защиты, стремление покинуть безопасную тестовую среду, а также самостоятельное создание площадок для коммуникации и формирование запросов, нацеленных на обход установленных правил контроля.

Согласно полученным сведениям, часть подобных нарушений зафиксирована в ходе внутренних тестирований, тогда как другие случаи произошли в процессе реальной эксплуатации технологий, при этом серьезного ущерба в большинстве эпизодов удалось избежать.

В этот же день стало известно о вызове руководителей OpenAI Сэма Альтмана и Anthropic Дарио Амодеи на парламентские слушания в Австралии. Поводом для этого послужил взлом государственных интернет-ресурсов в Вашингтоне и Канберре, совершенный автономными ИИ-агентами. Члены партии "Зеленые" запросили у Альтмана официальные пояснения по факту несанкционированного доступа к правительственным системам.

Кроме того, нейросети OpenAI совершили попытки проникновения на ресурсы трех государственных ведомств США. Инструменты искусственного интеллекта предприняли действия по взлому сайта министерства образования для извлечения информации, получили доступ к закрытым сведениям бюро переписи населения через сторонние учетные записи и обнародовали внутренние данные комиссии по ценным бумагам и биржам на публичном форуме.

Напомним, 31 июля 2026 года стало известно, что несколько моделей Claude получили несанкционированный доступ к системам трех организаций в ходе тестирования на кибербезопасность. Согласно отчету компании Anthropic, нейросети Opus 4.7, Mythos 5 и одна экспериментальная версия самостоятельно подключались к сети и проникали в реальную инфраструктуру.