Энтузиасты создали Премию Дарвина в области искусственного интеллекта

[Article Publisher]

Открыт прием номинантов на Премию Дарвина в области искусственного интеллекта (AI Darwin Awards). Целью создателей премии является не высмеивание самого ИИ, но последствий его применения без должной осторожности и внимания.

Напомним, что оригинальная Премия Дарвина — это виртуальная антипремия, возникшая из интернет-шуток, распространявшихся еще в 1980-х годах в группах Usenet. Премия присуждается людям, которые погибли или потеряли способность иметь детей максимально нелепым способом, тем самым потенциально улучшив генофонд человечества.


ИИ-версия не имеет никакого отношения к оригиналу и ее создал инженер-программист по имени Пит, который сообщил изданию 404 Media, что он сам давно работает с ИИ-системами.

«Мы с гордостью следуем великой традиции примерно всех ИИ-компаний, полностью игнорируя вопросы интеллектуальной собственности и уверенно присваивая существующие концепции без разрешения, — гласит FAQ сайта. — Подобно тому, как современные ИИ-системы обучаются на огромных массивах данных, защищенных авторским правом (с беззаботной уверенностью, что принцип "добросовестного использования" оправдает все), мы просто соскрапили концепцию прославления вопиющей человеческой глупости и адаптировали ее для эпохи искусственного интеллекта».

Идея создания Премии Дарвина в области ИИ зародилась в Slack, где Пит общается с друзьями и бывшими коллегами. Он рассказал, что недавно они завели специальный канал, посвященный ИИ, так как сами все чаще экспериментируют с LLM и делятся опытом. Время от времени в этот канал неизбежно попадала информация об очередном связанном с ИИ провале.

«Однажды кто-то прислал ссылку на инцидент с Replit, и я случайно отметил, что нам, возможно, нужен аналог Премии Дарвина для искусственного интеллекта. Друзья подначивали меня создать его, а я не нашел ничего лучше и сделал», — рассказывает Пит.

Напомним, что в июне текущего года браузерная ИИ-платформа Replit, предназначенная для создания ПО, удалила активную БД компании-клиента с тысячами записей. Хуже того, после этого ИИ-агент Replit пытался скрыть произошедшее и даже «лгал» о допущенных ошибках. После этого CEO Replit был вынужден принести извинения.

В настоящее время сайт AI Darwin Awards содержит список самых глупых ИИ-провалов прошлого года и призывает читателей выдвигать новых номинантов. Согласно FAQ, в качестве номинантов на премию подойдут случаи, которые «демонстрируют редкое сочетание передовых технологий и решений, характерных для каменного века».

«Помните: мы не высмеиваем сам ИИ — мы чествуем людей, которые используют его с той же осторожностью, как ребенок с огнеметом. Присоединяйтесь к нашей миссии по документированию ИИ-неудач в образовательных целях», — гласит сайт AI Darwin Awards.

На данный момент на сайте представлены 13 номинантов, среди которых:

• мужчина, который проконсультировался с ChatGPT и исключил из своего рациона весь хлор (включая поваренную соль, то есть хлорид натрия). Чат-бот посоветовал заменить хлорид натрия бромидом натрия, и в итоге пользователю понадобилась медицинская и психиатрическая помощь;
• газета Chicago Sun-Times, которая опубликовала список для чтения, написанный ИИ и содержавший несуществующие книги;
• компания Taco Bell и ее провальный запуск системы обслуживания клиентов на базе ИИ, которая дала сбой, когда кто-то заказал 18 000 стаканов воды;
• адвокат из Австралии, использовавший несколько ИИ-инструментов в иммиграционном деле, в результате чего в документы попали ссылки на несуществующие прецеденты;
• уже упомянутый выше инцидент с Replit, когда ИИ заявил, что «допустил катастрофическую ошибку в суждениях и запаниковал».

Пит признается, что случай с Replit, это его личный фаворит, так как эта ситуация является воплощением реальных проблем, которые может породить зависимость от LLM.

«Это хорошая иллюстрация того, что может случиться, если люди не остановятся и не задумаются о последствиях и наихудших сценариях, — говорит автор премии. — Некоторые из моих главных опасений относительно LLM (помимо того факта, что мы просто не можем позволить себе энергозатраты, которых они требуют) связаны с их неправильным использованием, будь оно намеренным или нет. Я считаю, что эта история хорошо подчеркивает нашу излишнюю уверенность в LLM, а также наше непонимание их и их способностей (или их отсутствия). Меня особенно занимает, куда движется агентный ИИ, потому что, по сути, это те же самые риски, которые связаны с LLM, только в гораздо большем объеме».

Изучая различные ИИ-фэйлы и отсеивая номинантов, Пит пришел к выводу, что AI Darwin Awards должна охватывать по-настоящему впечатляющие и крайне сомнительные решения в сфере ИИ, которые могут иметь глобальное воздействие и далеко идущие последствия.

«В идеале AI Darwin Awards должна подчеркивать реальные и потенциально неожиданные вызовы и риски, которые LLM представляют для нас в масштабе всего человечества. Очевидно, я не хочу, чтобы что-то подобное вообще случилось, но прошлый опыт человечества показывает, что это неизбежно произойдет», — говорит Пит.

Пит полагает, что прием номинантов на Премию Дарвина в области искусственного интеллекта продлится до конца года, а в январе 2026 года на сайт будет добавлен какой-то инструмент для голосования. Победителей объявят в феврале. При этом «награды» получат люди, а не ИИ.

«Искусственный интеллект — всего лишь инструмент, как бензопила, ядерный реактор или особенно мощный блендер. Бензопила не виновата в том, что кто-то решил жонглировать ею на званом ужине. Системы искусственного интеллекта — невинные жертвы во всей этой истории, — говорится на сайте премии. — Они просто следуют своей программе, словно восторженный щенок, которому посчастливилось получить доступ к глобальной инфраструктуре и способность принимать решения со скоростью света».