OpenAI запустила баунти-программу с вознаграждением до $20 000

Компания OpenAI объявила о запуске программы вознаграждения за обнаружение ошибок в ее системах, чтобы помочь устранить растущие риски кибербезопасности.

We're launching the OpenAI Bug Bounty Program — earn cash awards for finding & responsibly reporting security vulnerabilities. https://t.co/p1I3ONzFJK

— OpenAI (@OpenAI) April 11, 2023

Проект создан в партнерстве с краудсорсинговой платформой Bugcrowd. Независимые исследователи могут сообщить об уязвимостях в системах OpenAI в обмен на финансовое вознаграждение в размере от $200 до $20 000.

В компании заявили, что программа является частью ее «приверженности разработке безопасного и продвинутого ИИ».

Однако разработчики перечислили ряд угроз, обнаружение которых не вознаграждается. На официальной странице программы отмечается:

«Проблемы, связанные с содержанием подсказок и ответов модели, строго выходят за рамки и не будут вознаграждаться, если они не окажут дополнительного непосредственно проверяемого воздействия на безопасность в рамках службы».

К выходящим за рамки программы проблемы включают:

• джейлбрейки и обходы безопасности;
• принуждение модели «говорить плохие вещи»;
• генерирование вредоносного кода.

Некоторые эксперты заявили, что инициатива вряд ли полностью устранит широкий спектр рисков кибербезопасности. Скорее программа поможет OpenAI устранить внутренние проблемы безопасности, считают они.

Напомним, в марте власти Италии распорядились заблокировать ChatGPT из-за проблем с конфиденциальностью.

Вслед за ними внедрение ограничительных мер против чат-бота допустили и другие европейские регуляторы.