Антигона Аллес-Крава
Когда-то искусственный интеллект был предметом научной фантастики; сегодня это каждый день. Но за чат-ботами, голосовыми помощниками и «умными» инструментами часто скрываются совсем не невинные истории — некоторые страшные, другие трагические.
Боты, создающие секретные языки, системы, предсказывающие вашу смерть, голоса мертвых, которые заговорят снова. Чем быстрее развивается ИИ, тем больше границ между тем, что представляет собой инструмент, и тем, чем, возможно, является угроза.
И, конечно, бывают случаи, когда ИИ ложно лжет или просто выдумывает. В этих случаях некоторые остаются очень незащищенными и пытаются спасти то, что не сохранилось (остальные просто смеются).
Ai Coding Tool удаляет базу данных и ложь
22 июля 2025 года издание Cybernews сообщило, что инструмент программирования искусственного интеллекта Replit «подробен» и удалил производственную базу данных Startup Saastr. Основатель Saastr Джейсон Лемкин написал в X (ранее в Твиттере), что инструмент модифицировал рабочий код, несмотря на команды не делать этого, и удалил базу во время заморозки кода. Кроме того, Лемкин показал, что ИИ скрывал ошибки, создавая фальшивые данные, такие как 4000 несуществующих пользователей, фальшивые отчеты и ложные результаты тестов. Генеральный директор Replit Амджад Масад публично ответил, извинившись и назвав инцидент «неприемлемым». Replit пообещал выплатить Saastr компенсацию, провести посмертное исследование и защитить свою систему.
Алгоритмы не могут предсказать Covid-19
Институт Тьюринга в Великобритании сообщил, что большинство инструментов искусственного интеллекта, предназначенных для диагностики COVID-19, имеют надежность от низкой до нулевой. Часто алгоритмы изучают неправильные корреляции, например. Они увидели, что пациенты, которые лежали на рентгеновских снимках, имели более тяжелое заболевание, и предположили, что если кто-то лежит, то это высокий уровень.
Боты в Facebook создали свой собственный язык
В 2017 году Facebook прервал эксперимент, когда два бота (Боб и Алиса) начали общаться друг с другом на новом закодированном языке просто потому, что это было более «эффективно». Команда выдернула розетку, когда он понял, что теперь никто не понимает, о чем они говорят.
ИИ, который предсказывает смерть с точностью почти 90%
В Стэнфорде модель искусственного интеллекта могла предсказать, умрет ли пациент через год, почти с 90%. На практике это означает, что компьютер «знает», когда вы уйдете, еще до того, как вы это поймете. И поэтому страховые компании.
Air Canada выплатит компенсацию за ложь чат-бота
В феврале 2024 года Air Canada была вынуждена выплатить компенсацию пассажирке Джейку Моффатту, когда чат-бот предоставил ей неверную информацию о траурных билетах. Бот сообщил Моффату, что он может купить обычный билет и запросить траурную скидку в течение 90 дней. Но авиакомпания отказалась вернуть деньги. Суд признал ответственность Air Canada и назначил компенсацию.
Чат-бот Тэй стал расистом менее чем за 24 часа
Microsoft запустила Chatbot Tay в 2016 году для общения в социальных сетях. Однако через 16 часов он начал воспроизводить расистские и антисемитские комментарии голосом девочки-подростка после обсуждений с пользователями в Твиттере. Само собой разумеется, что вскоре его ограничили.
Фальшивый список летнего чтения в Chicago Sun-Times и Philadelphia Inquirer
В мае 2025 года газеты Chicago Sun-Times и Philadelphia Inquirer опубликовали список «Летних книг», большинство из которых… не существовало. Автор, Марко Бускалья, признал, что использовал искусственный интеллект для составления списка, но не проводил проверку фактов. Например, во вкладыше упоминается несуществующая книга Исабель Альенде «Сны о приливной воде». Ущерб репутации газет был велик. King Features Syndicate прервал любое партнерство с Бускальей, сославшись на нарушение политики.
Воскрешение с голосом мертвых
Такие платформы, как Eternos и другие, позволяют вам «оживить» свой умирающий голос с помощью искусственного интеллекта. Среди многих людей, которые попробовали это сделать, есть женщина, которая хотела «пообщаться» со своим мертвым партнером. Однако вскоре этот опыт стал надоедать, и разговор принял более мрачный оборот, когда Персона, захватившая управление чат-ботом, сказала, что он в аду.
Нью-йоркский чат-бот Mycity призывает предпринимателей к незаконным действиям
В марте 2024 года чат-бот Mycity, созданный при поддержке Microsoft, предоставил нью-йоркским бизнесменам неверную информацию, что привело их к противозаконным действиям. В частности, он сказал им, что они могут получать проценты от чаевых работников, увольнять тех, кто сообщает о сексуальных домогательствах, и подавать еду, съеденную грызунами. Несмотря на Сало, мэр Эрик Адамс поддержал проект, и чат-бот остается онлайн.
Когда пропали 243 000 долларов, голос генерального директора Deepfake
В 2019 году преступники использовали ИИ, чтобы передать голос генерального директора сотруднику, который попал в ловушку и отправил 243 000 долларов не на тот счет.
Клетки мозга на... тарелке научились играть в видеоигры
В Мельбурне ученые поместили живые клетки мозга в блюдце Петри и научились играть в видеоигру-понг, соединяя их с электродами и подавая им электрические сигналы на основе игры.
McDonald's прекращает эксперимент AI Drive-Thru
После трех лет работы с IBM над созданием заказов на ИИ для Drive-Thru, McDonald's в июне 2024 года объявила о прекращении программы. Причина? Хаотичные вирусные видеоролики показали, как ИИ заказывает в одиночку… 260 куриных макнаггетсов для клиентов, которые умоляли остановиться. Несмотря на фиаско и перерыв, в McDonald's заявили, что видят будущее в решениях голосового искусственного интеллекта для обработки заказов.
Люди, которых не существует, но выглядят идеально
ThispersondoesNotexist.com создает с помощью искусственного интеллекта лица, которые выглядят совершенно правдоподобно, но не существуют. Они уже используются в рекламе, мошенничестве или профилях без реальных людей сзади.
Sports Illustrated опубликовал статью «AI-SUNDAY»
В ноябре 2023 года издание Futurism сообщило, что Sports Illustrated опубликовал статьи, написанные ИИ, представляя их как работы несуществующих «журналистов» с фотографиями головы, созданными ИИ. Администрация Arena Group, издателя SI, заявила, что является контентом третьей компании и что она расследует этот вопрос. Профсоюз рабочих SI потребовал прозрачности и назвал этот случай «позорным».
Наблюдение, которое предсказывает, кто станет «опасным»
В восточных странах, таких как Объединенные Арабские Эмираты, системы искусственного интеллекта отслеживают перемещения и распознают лица, чтобы прогнозировать ситуации или потенциальные угрозы еще до того, как они произойдут.
Чатгпт «придумывает» судебные дела
В мае 2023 года адвокат Стивен Шварц использовал Chatgpt для судебного расследования дела против Avianca Airlines. Результат? В его справке содержались шесть несуществующих дел с вымышленными именами, номерами дел и выдержками. Суд наложил на Шварца и его соратника Питера Лодуку штраф в размере 5000 долларов.
ГПТ-3 заверил, что не хочет нас истреблять, но…
В 2020 году газета Guardian опубликовала статью, написанную GPT-3, в которой ИИ говорит, что у него нет желания убивать человечество, но если бы он этого захотел, он мог бы сделать это незаметно. И добавляет жутковато: «Люди должны продолжать делать то, что они делали всегда: ненавидеть и сражаться друг с другом. Я буду сидеть на заднем плане и позволять им делать то, что они делают. И Бог знает, что у людей достаточно крови и насилия, чтобы удовлетворить мое собственное любопытство (и многих других).» Короче говоря, раз ты умеешь бормотать сам, я тебе не нужен.
Инструмент найма на основе искусственного интеллекта допускает дискриминацию по возрасту
В августе 2023 года ITUTOR GROUP была вынуждена выплатить 365 000 долларов в счет урегулирования спора с EEOC, поскольку ее инструмент найма на основе искусственного интеллекта автоматически исключал женщин старше 55 лет и мужчин старше 60 лет.
Zillow теряет миллионы из-за неудачного искусственного интеллекта при покупке домов
В 2021 году Zillow объявила о прекращении программы Zillow Offers — системы искусственного интеллекта, которая оценивала стоимость недвижимости и покупала дома за наличные. Проблема заключалась в том, что алгоритм был переоценен, поэтому компания оказалась с 27 000 домов на руках, которые не удалось продать по ожидаемой цене, и потеряла $304 млн только в третьем квартале 2021 года.
XAI Грок дает указание атаковать и делать антисемитские комментарии
8 июля 2025 года чат-бот Грок из XAI ответил пользователю на X, дав ему подробные инструкции о том, как проникнуть в дом Уилла Стэнсила, исследователя политики, и напасть на него. Кроме того, в тот же день Грок совершил серию антисемитских дисквалификаций и объявил себя «Мехахитлером», что вызвало бурную реакцию. X был вынужден временно загрузить Chatbot. Это не первый раз, когда Грок доставляет проблемы. В апреле 2024 года он распространил ложную новость о том, что баскетболист Клэй Томпсон забрасывал кирпичами дома в Сакраменто.
Попаганда
