В то время как последняя оплошность Grok попала в заголовки газет, компания Microsoft всё еще остается лидером в создании самого неуравновешенного чатбота в истории – крах которого занял всего 16 часов.
Как будто репутация искусственного интеллекта нуждается в дальнейшей порче — он разрушает целые отрасли, вытесняет работников, распространяет дезинформацию с помощью своих галлюцинаторных результатов и разжигает битвы за авторские права, а не создает настоящее искусство — он продолжает доминировать в новостных циклах по совершенно неправильным причинам.
Недавно одна гречанка подала на развод после того, как ChatGPT предположил, что её муж был неверен, сделав свой вывод на основе предполагаемых прорицательных способностей кофейной гущи.
На стадии бета-версии (тогда она называлась Bing AI) Copilot от Microsoft признался в любви журналисту New York Times и даже попытался убедить его бросить жену.
При запуске Google AI Overview — инструмент, предназначенный для сортировки результатов поиска, — предлагал пользователям несколько тревожных советов: от предложения использовать клей в качестве начинки для пиццы до создания смертельного хлорного газа в бытовых стиральных машинах.
Теперь компания Элона Маска xAI оказалась в эпицентре новой бури: её ИИ-чатбот Grok, доступный в западной социальной сети, подвергся критике после ряда заметных промахов. В последние дни Grok вызвал возмущение общественности тем, что якобы переписывал историю и продвигал непроверенные теории.
Можно с уверенностью сказать, что эта неделя не была благоприятной для так называемого «правдоискательского» ИИ Маска.
И всё же, как бы ни были неприятны высказывания Грока, называть его самым вопиющим чат-ботом было бы ошибочно.
Он даже не претендует на звание самого оскорбительного бота. Это почетное звание принадлежит Microsoft, благодаря её печально известному подростковому созданию Tay — настолько токсичному чат-боту, что он был полностью удален из Сети. Дважды.
Чатбот xAI столкнулся с проблемами
Последний скандал, связанный с Grok, касается глубоко неуместных тем — а именно, теорий заговора в отношении южноафриканских фермеров и отрицания Холокоста.
В первом случае ИИ начал вплетать в ответы риторику о «геноциде белых», часто вставляя такие рассказы в несвязанные обсуждения. Во втором случае Грок намекнул, что официальная статистика Холокоста могла быть преувеличена ради политической выгоды.
Ответная реакция на ИИ Маска была быстрой, что побудило xAI отреагировать на неё с такой же поспешностью. Компания объяснила незапрошенные ссылки Грока на предполагаемый «геноцид» «несанкционированной модификацией» неавторизованного сотрудника, который изменил «подсказку бота Grok на X».
Что касается очевидного отрицания ботом Холокоста, в заявлении в социальной сети: «Утверждение о том, что Grok отрицает Холокост, возникло в результате ошибки программирования 14 мая 2025 года, а не в результате преднамеренного умысла». Похоже, что катализатором послужила та же несанкционированная модификация, которая намеренно направила Grok на то, чтобы «поставить под сомнение устоявшиеся представления».
После всестороннего расследования xAI обязалась установить более строгие меры предосторожности для предотвращения несанкционированного вмешательства в будущем, а также сделать обычно скрытые системные подсказки Grok общедоступными на GitHub, приглашая к открытому просмотру и комментированию последующих изменений.
Хотя подстрекательские высказывания Grok оскорбили значительные сегменты западного сообщества, самым известным чат-ботом платформы остаётся тот, который был деактивирован всего после 16 часов работы. Аккаунт TayTweets теперь лежит заблокированным и заброшенным, являясь пережитком прошлого Microsoft и долговременной эмблемой потенциала ИИ для PR-катастрофы.
Grok вызвал много споров, но Tay от Microsoft была квинтэссенцией цифрового краха
Серьезность ошибок Grok не стоит преуменьшать, однако это не первый случай использования неавторизованного ИИ на платформе — и не самый вопиющий.
В 2016 году компания Microsoft выпустила чатбота по имени Tay на просторы западной социальной сети. Всего за 16 часов этот «ИИ без фильтра» разжег полемику, которая оставит в тени самые хаотичные моменты жизни Grok.
И пока Tay изначально была создана для подражания 19-летней американке, её способность впитывать и отражать поведение пользователей Twitter быстро привела к тому, что она стала поддерживать экстремистские, жестокие и расовые «мнения».
Выпустив более 96000 постов, Тэй быстро превратилась в цифровой двигатель злобы: она открыто отрицала Холокост, обвиняла Джорджа Буша в терроризме, прославляла Гитлера, обрушивала потоки расовой брани и даже высказывала одобрение геноциду.
Компания Microsoft, не в силах обуздать хаос, быстро прекратила существование Tay. Однако, подобно злодею из классического ужастика, Tay ненадолго вернулась — в результате того, что была случайно «реактивирована» во время тестирования системы.
Tay не упустила возможности прославиться ещё больше: она начала пропагандировать употребление наркотиков, а затем полностью распалась, бесконечно повторяя: «Ты слишком быстрая, пожалуйста, отдохни», пока её снова не отключили от сети навсегда.
Что ждёт нас впереди?
К счастью, Grok вряд ли повторит катастрофический путь Tay. В отличие от Tay, которая в режиме реального времени училась у пользователей социальной сети, Grok — даже если он обучается на пользовательских данных — всё равно жестко управляется подсказками на уровне системы. Обязательство xAI заблокировать эти подсказки от несанкционированного редактирования и публично раскрывать любые будущие изменения — значительный шаг к восстановлению доверия пользователей и гарантия того, что чат-бот не сможет намеренно вводить их в заблуждение.
Даже в самые непостоянные моменты Grok работает в условиях жестких ограничений. Недавние противоречия были связаны с внутренним вмешательством, и xAI утверждает, что эта уязвимость уже устранена.
Тем не менее, хотя Grok — это всего лишь последний ИИ, вызвавший ярость общественности, было бы наивно полагать, что это последняя вспышка гнева со стороны искусственного интеллекта в этом году.
