OpenAI ускорила выпуск новых ИИ-моделей, но пожертвовала временем на тестирование безопасности — скверный звоночек
OpenAI сократила время на тестирование безопасности новых ИИ-моделей, включая готовящуюся к релизу модель o3. Если для GPT-4 в 2023 году тестирование занимало 6 месяцев, то теперь у тестировщиков часто есть всего несколько дней. Это связано с давлением конкуренции со стороны Google и xAI Илона Маска.
Мнение автора может не совпадать с мнением редакции
По словам инсайдеров, тесты стали менее тщательными, и некоторые риски проявляются уже после запуска. Некоторые модели проверяются не в финальной версии, а на промежуточных «чекпоинтах», которые затем дорабатываются. Эксперты считают это плохой практикой.
OpenAI утверждает, что ускорение стало возможным благодаря автоматизации и новым подходам. Однако, по словам бывших сотрудников, компания отходит от собственных обещаний, таких как проведение глубоких проверок на потенциально опасные сценарии, например, синтез вирусов.
Ситуация вызывает тревогу, поскольку в условиях гонки ИИ-компании всё чаще жертвуют безопасностью ради скорости.
0