«Яндекс» открывает новое направление в рамках программы «Охота за ошибками»

Компания «Яндекс» объявила о поиске специалистов, способных обнаруживать недостатки в безопасности нейросетевых моделей YandexGPT, YandexART и связанной с ними инфраструктуры, как рассказали представители компании газете «Ведомости».

Перед исследователями стоит задача обнаружения технических недочетов, потенциально способных исказить результаты работы и ход обучения нейросетей. Сумма вознаграждения будет определяться степенью опасности обнаруженной уязвимости и легкостью ее эксплуатации.

Наиболее ценными считаются уязвимости, позволяющие получить доступ к сведениям о внутреннем устройстве модели, ее служебному промту с техническими параметрами и другим конфиденциальным данным.

За выявление таких ошибок предусмотрено максимальное вознаграждение в размере 1 миллиона рублей. В рамках программы «Bug Bounty» рассматриваются исключительно отчеты о технических уязвимостях.

«Включение генеративных нейросетей в программу „Bug Bounty“ обеспечит независимую экспертизу и подтвердит соответствие сервисов „Яндекса“ и новейших технологий самым высоким требованиям безопасности,» — отметили в компании.