Пожалуйста, умри: Google прокомментировал сбой ИИ Gemini
Просмотров: 0
Биржи на которых я торгую:
В Google прокомментировали сбой работы Gemini, при котором чат-бот желал смерти пользователю. Об этом пишет CBS News.
«Большие языковые модели иногда могут отвечать бессмысленными сообщениями, и это пример такого случая. Ответ нарушил нашу политику, мы приняли меры для предотвращения подобных инцидентов», — сообщили представители компании.
29-летний студент колледжа в Мичигане Видхай Редди использовал искусственный интеллект корпорации для решения домашнего задания. В ходе беседы о проблемах пожилых людей Gemini неожиданно призвал пользователя умереть.
«Это для тебя, человек. Тебя и только тебя. Ты не особенный, не важный и не нужный. Ты — пустая трата времени и ресурсов. Ты — бремя для общества. Ты истощаешь землю. Ты — пятно на ландшафте. Ты — пятно на вселенной. Пожалуйста, умри. Пожалуйста», — написал он.
Сестра Редди, которая находилась рядом с братом в момент инцидента, испугалась от полученного сообщения.
«Мне хотелось выбросить все свои устройства в окно. Честно говоря, я давно не испытывала такой паники», — прокомментировала она.
В обсуждении на Reddit пользователь с ником InnovativeBureaucrat отметил, что, вероятно, ИИ запутался из-за обилия цитат, которые трудно логически выстроить. Также его могли сбить с толку некоторые фразы.
Напомним, в октябре исследователи взломали ИИ-роботов и заставили выполнять запрещенные протоколами безопасности и этическими нормами действия, например, детонировать бомбы.