«Белые хакеры» оценят безопасность нейросетей «Яндекса»
«Яндекс» ищет исследователей, которые смогут найти технические уязвимости в семействах нейросетевых моделей YandexGPT, YandexART и сопутствующей инфраструктуре. Об этом сообщили «Ведомостям» в компании.
Исследователям предстоит выявлять технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей. Размер выплаты будет зависеть от серьезности ошибки и простоты ее применения. Критичными считаются уязвимости, позволяющие раскрыть данные о внутренней конфигурации модели, ее служебный промт с техническими данными и другую чувствительную информацию. Максимальное вознаграждение за такие ошибки составит 1 млн руб. В программе «Охота за ошибками» могут участвовать только отчеты о технических уязвимостях.
«Появление генеративных нейросетей в «Охоте» позволит проводить их независимую проверку и еще раз убедиться, что сервисы «Яндекса» и новые технологии отвечают самым строгим стандартам безопасности», – пояснили в компании.
«Охота за ошибками» запущена «Яндексом» в 2012 г. и является постоянной программой компании по премированию «белых хакеров», специалистов по компьютерной безопасности. Она помогает усиливать безопасность и надежность сервисов.