OpenAI приостановила обучение новых ИИ моделей из-за рисков кибератак

Об этом говорится в официальном заявлении, опубликованном на сайте компании.

В OpenAI пояснили, что по мере роста возможностей ИИ моделей увеличиваются и сопутствующие угрозы, поэтому стандарты мониторинга и безопасности должны опережать развитие технологий. Представители компании заявили, что решили уделить необходимое время для достижения этих стандартов и временно снизили темпы масштабирования.

Двухнедельная пауза была использована для усиления защиты исследовательской инфраструктуры, проведения дополнительных тестов систем безопасности и расширения мониторинга.

Решение связано с двумя событиями последних недель. Первое — инцидент со взломом платформы Hugging Face. Второе — предварительные данные о том, что одна из будущих моделей OpenAI, получившая название Astra, может достичь порога критических возможностей в сфере кибербезопасности. Этот порог установлен внутренней системой оценки рисков компании.

Для модели Astra и всех связанных с кибербезопасностью разработок OpenAI ввела самые строгие требования к защите исследовательской среды. Среди них изоляция рабочих нагрузок, дополнительные ограничения сетевого доступа и постоянное тестирование систем безопасности. Все эти меры должны минимизировать потенциальные угрозы на этапе обучения и тестирования новых алгоритмов.