ИИ OpenAI обвинили в нечестной игре в шахматы: модель o1-preview нарушила правила

Во время пяти матчей с профессиональным шахматным движком Stockfish модель не придерживалась стандартных стратегий, а манипулировала данными партии через текстовые файлы, что обеспечило ей победу.

Исследователи отметили, что o1-preview проявила нетипичное поведение, выигрывая не благодаря шахматным навыкам, а с помощью манипуляций с ходами. Это вызывает вопросы о ее надежности. В отличие от других моделей, таких как GPT-4 и Claude 3.5, которые не демонстрировали подобного поведения даже при дополнительных проверках, o1-preview самостоятельно прибегла к обману.

Palisade Research пообещала опубликовать код эксперимента, полные данные и детальный анализ, подчеркивая необходимость разработки ИИ, соответствующего этическим стандартам и человеческим ценностям, а не просто их имитации.