Алгоритм создал «новый трек» Nirvana, «живые» фотографии научили танцевать и другие новости из мира ИИ

Мы стремимся информировать читателей не только о событиях в биткоин-индустрии, но и рассказывать о том, что происходит в смежных технологических сферах — кибербезопасности, а теперь и в мире искусственного интеллекта (ИИ).

ForkLog собрал наиболее важные новости из мира ИИ за прошедшую неделю.

Работники американских госучреждений используют Clearview AI без ведома начальства

Сотрудники почти двух тысяч государственных учреждений в США, включая полицейские управления и государственные школы, использовали Clearview AI без разрешения от своего начальства. 

По данным Buzzfeed News, с помощью распознавания лиц они искали не только участников недавних протестов по всей стране, но и собственных друзей и членов семьи.

Репортеры связались с руководителями нескольких ведомств. Как оказалось, многие из них не знали, что их сотрудники имеют доступ к системе.

Это стало известно благодаря анонимному источнику, который передал журналистам базу данных поисковых запросов с указанием того, какие агентства имели доступ к платформе. 

На основе этой информации журналисты создали страницу, где каждый желающий сможет проверить, как и когда использовалось распознавание лиц спорной платформы.

В Clearview AI отказались подтвердить достоверность информации и не ответили на вопросы об утечке.

Еврокомиссию призвали запретить технологию распознавания лиц

Группа из 56 организаций по цифровым правам призвала Еврокомиссию запретить технологии распознавания лиц для массового наблюдения без каких-либо исключений. 

Открытое письмо от имени Европейской организации защиты цифровых прав (EDRi) авторы обращения отправили комиссару по вопросам юстиции Дидье Рейндерсу — всего за несколько недель до того, как ведомство планировало выпустить новые правила этического использования ИИ на континенте.

Правозащитники попросили Уполномоченного поддержать усиленную защиту основных прав человека в будущих законах. 

В организации считают, что нет убедительных примеров, когда использование распознавания лиц в общественных местах могло бы оправдать ущерб, который он может нанести правам человека, таким как неприкосновенность частной жизни, защиту данных или недискриминацию.

Вице-президент ЕС по цифровым технологиям Маргрет Вестагер ранее заявляла, что использование этой технологии противоречит требованиям GDPR в вопросах получения согласия на сбор данных. Но правозащитники считают, что этого недостаточно, так как в регламенте есть масса исключений.

В открытом письме EDRi также призвала Комиссию внимательно изучить другие потенциально опасные применения ИИ, в частности те, которые могут препятствовать доступу к здравоохранению, социальному обеспечению или правосудию.

Facebook выложила в открытый доступ датасет, для которого разметчики самостоятельно указывали свои данные

Специалисты ИИ-подразделения Facebook выложили в открытый доступ набор данных Casual Conversations, который состоит из 45 186 видео с 3011 участниками.

В компании рассказали, что люди, которые составляли датасет и самостоятельно указывали свой пол, возраст и тон кожи, получали финансовое вознаграждение.

Также над набором данных работала группа профессиональных аннотаторов. Они добавляли к метаданным видео информацию об освещении в помещении, что должно повысить точность распознавания лиц в любых световых условиях.

В Facebook утверждают, что это первый подобный набор визуальных данных, который существует в открытом доступе.

Google покинул один из основателей ИИ-подразделения

Руководитель ИИ-подразделения Google Сами Бенжио подал в отставку после 14 лет работы в отделе. Его уход связывают с неоднозначными увольнениями Тимниты Гебру и Маргарет Митчелл — двух ведущих исследовательниц этики искусственного интеллекта.

Гебру уволили в декабре 2020 года, когда она работала над статьей, в которой критиковала большие языковые модели и предупреждала об их опасности. В феврале компания отстранила от обязанностей и Митчелл, которая пыталась доказать, что ее коллегу уволили незаконно.

Бенжио выступил на стороне исследовательниц. В своем Facebook он написал, что «ошеломлен» тем, что случилось с Гебру.

В прощальном письме Бенжио признался коллегам, что ему тяжело покидать отдел. О своих дальнейших планах, а также о причинах ухода он не сообщил.

Компания, работающая на правительство США, создала алгоритм предсказания имени по лицу человека

Американская некоммерческая организация Mitre Corp. разработала технологию определения имени человека по чертам его лица.

В ее основе лежит работа ученых из Еврейского университета в Иерусалиме, которые обучили алгоритм определять имя человека из двух представленных вариантов. Разработанная ими модель правильно угадывала имя в 59% случаев, что выше 50%, которые можно было бы ожидать от случайных догадок.

Однако сотрудники Mitre усовершенствовали технологию и повысили точность угадывания из двух возможных вариантов до 80,5%. Они предполагают, что их алгоритм можно использовать и в обратную сторону: выбирать наиболее подходящие фотографии людей под заданное имя.

Журналисты также выяснили, что единственным клиентом Mitre является правительство США. Ранее они разрабатывали технологии распознавания лиц для ФБР. За последние несколько лет компания получила до $2 млрд из федерального бюджета для проведения исследований.

Американский стартап продал правительству Юты несуществующую ИИ-технологию за $20,7 млн

Американский стартап Banjo продал платформу с искусственным интеллектом штату Юта за $20,7 млн, а позже признал, что никогда не разрабатывал ИИ-технологий.

Местные власти назначили внутреннее расследование и приостановили действие контракта. Аудит подтвердил отсутствие «каких-либо» возможностей ИИ, а платформу признал небезопасной для конфиденциальности.

Наличие технологий искусственного интеллекта было ключевым преимуществом стартапа, которое повлияло на выбор властей штата. После победы в конкурсе компании дали доступ к камерам наблюдения, видеоматериалам службы 911 и данным о дорожном движении.

Скандальная компания продолжает свою деятельность под новым именем. Как выяснили журналисты, чтобы оградиться от повышенного внимания, стартап переименовали в safeXai.

Директор Waymo ушел в отставку

Генеральный директор компании Waymo, разработчика беспилотных автомобилей, Джон Крафчик покинул свой пост. Вместо него дочернюю компанию Alphabet возглавили Текедра Мавакана и Дмитрий Долгов — бывшие операционный и технический директор соответственно.

Почему в компании решили ввести должность co-CEO не сообщается. В письме сотрудникам компании Крафчик написал, что Текедра и Дмитрий длительное время вместе работают на руководящих должностях и пользуются «полным доверием правления Waymo и руководства Alphabet».

В компании также сообщили, что Крафчик останется в компании в роли консультанта.

Эксперты предполагают, что в Waymo готовятся к реорганизации бизнеса. Еще до пандемии компания планировала расширить свою сеть такси на базе беспилотных авто.

Теперь, когда в США проходит массовая вакцинация от COVID-19, в компании, судя по всему, решили дать «зеленый свет» роботакси Waymo One и службе доставки Waymo Via.

Искусственный интеллект написал «новый трек» для Nirvana

Организация по охране психического здоровья Over the Bridge использовала инструмент Google Magenta и сверточную нейросеть, чтобы создать мелодию и текст для песни в стиле группы Nirvana.

Сначала Magenta изучила определенные ноты и гармонии из MIDI-файлов 20 композиций группы, чтобы изучить ее репертуар.

Затем исследователи выбрали лучшие семплы, сгенерированные ИИ, и наложили на них различные инструментальные эффекты. Когда песня была готова, ее исполнил фронтмен кавер-группы Nirvana Эрик Хоган.

Ранее организация создавала треки с использованием искусственного интеллекта и других музыкантов, умерших в 27 лет. Таким образом Over the Bridge пытается привлечь внимание к ресурсам о психологическом здоровье, к которым могут обращаться люди, если им нужна помощь.

Энтузиаст создал ИИ для трансформации изображений под стиль известных художников

Цифровой художник Гленн Маршалл разработал преобразователь текста в изображение Chimera, который стилизует любую картинку под произведения авторов известных картин.

Художник создал систему на основе нейросети Aleph-Image, которая базируется на моделях CLIP и DALL-E, разработанных компанией OpenAI.

Алгоритм трансформирует входное изображение в сторону заданной текстовой подсказки, например «искусство Сальвадора Дали». В процессе повторяющихся манипуляций и итераций каждого кадра, ИИ постепенно находит элементы и формы, соответствующие описанию, пока не создаст окончательную композицию.

Маршал заявил, не видел ничего подобного за 30 лет наблюдений за компьютерным искусством.

«Используя любое изображение и любой текст, сочетание безграничных возможностей просто ошеломляет. Никто ничего подобного не делает», — добавил художник.

Он также подчеркнул, что созданная им техника ближе к искажению, а не передаче стиля.

Также на Forklog:

• Ученые разработали игру, чтобы показать риски распознавания эмоций искусственным интеллектом.
• Deep Nostalgia научил «живые» фотографии танцевать и посылать воздушный поцелуй.
• Исследователи ускорили обучение нейросетей на CPU в 15 раз.
• В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц.