Сотни экспертов призвали приостановить обучение наследника GPT-4
Просмотров: 0
Более тысячи отраслевых экспертов, включая Илона Маска и Стива Возняка, призвали на шесть месяцев приостановить обучение языковых моделей мощнее GPT-4 от OpenAI.
Соответствующее открытое письмо Института будущего жизни подписали ученые, бизнесмены и независимые исследователи. Эксперты считают, что разработку продвинутого ИИ необходимо поставить на паузу до тех пор, пока не появятся общие протоколы безопасности для таких конструкций.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в заявлении.
В письме подробно описаны потенциальные угрозы для общества и цивилизации со стороны конкурентоспособных ИИ-систем. Они включают экономические и политические потрясения.
Также эксперты призвали разработчиков сотрудничать с регуляторами.
«Письмо не идеально, но дух правильный: нам нужно замедлиться, пока мы лучше не поймем разветвления», — сказал почетный профессор Нью-Йоркского университета Гэри Маркус, подписавший письмо.
Ученый считает, что большие языковые системы могут причинить вред многим людям.
«Крупные игроки становятся все более скрытными в отношении того, что они делают, что затрудняет защиту общества от любого вреда, который может материализоваться», — добавил Маркус.
Вероятно, обеспокоенность представителей отрасли возросла с активным развитием больших языковых моделей и чат-ботов на их основе. С момента анонса ChatGPT в ноябре 2022 года техгиганты и стартапы вступили в новую ИИ-гонку.
В феврале Microsoft и Google одна за другой представили поисковые сервисы на базе диалоговых алгоритмов.
В марте OpenAI открыла доступ к API ChatGPT, что позволило десяткам компаний интегрировать чат-бота в собственные приложения.
За последние два месяца Microsoft представила ряд ИИ-функций на основе разработок OpenAI для своих продуктов, включая Word, Excel, PowerPoint, Outlook, Teams, GitHub, Bing, Dynamics и Azure.
Напомним, в марте Европол предупредил об угрозах со стороны ChatGPT.
В том же месяце генеральный директор OpenAI Сэм Альтман признал риски, связанные с чат-ботом.
В январе разработчик ChatGPT предупредил об использовании ИИ дезинформаторами.