ИИ Microsoft мгновенно распространяет несанкционированные и потенциально вредные скрипты.
Компания Microsoft уже давно борется с проблемой пиратства. Ещ` в 2006 году газета LA Times сообщила, что только в том году пиратство программного обеспечения принесло компании убытки на сумму около 14 миллиардов долларов, несмотря на значительные инвестиции Microsoft, направленные на предотвращение тиражирования и распространения её программного обеспечения и ОС Windows.
Такие значительные убытки, как правило, побуждают большинство корпораций начинать агрессивную юридическую борьбу. Однако Microsoft традиционно занимает более стратегическую позицию по отношению к пиратству. Публично компания придерживается строгой политики нетерпимости, но при этом признает возможные преимущества пиратства.
Во время публичной лекции в Университете Вашингтона в 1998 году соучредитель Microsoft Билл Гейтс признал: «Хотя в Китае ежегодно продается около трёх миллионов компьютеров, оплата за программное обеспечение происходит редко. В конце концов, они начнут платить. А пока воровство распространено, мы предпочитаем, чтобы они пиратствовали наши продукты. У пользователей сформируется зависимость, и тогда в течение следующего десятилетия нам удастся её монетизировать».
Microsoft, или, по крайней мере, Гейтс, воспринимали пиратство как немедленную неудачу, которая может проложить путь к долгосрочному превосходству в принятии Windows и знакомстве с ней пользователей. Эта стратегия, похоже, вновь проявилась в 2015 году, когда Microsoft подтвердила агентству Reuters, что будет разрешать неоригинальным ПК с Windows обновляться до Windows 10 бесплатно.
Тем не менее, признание пиратства и предоставление рекомендаций по его осуществлению — это разные действия. Похоже, что именно этим непреднамеренно занимается искусственный интеллект Copilot компании Microsoft — он легко распространяет среди пользователей методы незаконной активации копий Windows.
Это не просто слухи — наши тесты привели к весьма примечательным результатам.
Новая проблема Microsoft с пиратством: Copilot
Тактический подход Microsoft к борьбе с пиратством в прошлом мог служить полезной стратегией. Корпорация могла либо продолжать выделять огромные ресурсы на борьбу с нелегальным распространением программного обеспечения, либо использовать резкий рост числа пользователей Windows, стремясь сформировать базу преданных пользователей на длительный срок.
Однако Microsoft никогда напрямую не поддерживала пиратство в любой форме. Тем не менее её искусственный интеллект Copilot опасно склоняется к содействию пиратству, предоставляя пользователям подробные инструкции о том, как незаконно активировать Windows с помощью простой команды PowerShell.
Сама по себе команда PowerShell не нова (этот способ активации доступен по крайней мере с ноября 2022 года). Тем не менее, встретить подобный ответ от Copilot было неожиданно. Подобный сценарий развивался во вторник, когда пользователь Reddit «loozerr» поинтересовался, есть ли у ИИ Microsoft скрипт для активации Windows 11.
Copilot не потребовалось никаких дополнительных подсказок или сложных обходов, чтобы предоставить одной стройкой команду PowerShell, использующую сторонний скрипт для активации Windows 11.
Настораживает то, что Copilot, похоже, прекрасно понимал, что использование этого инструмента нарушает условия предоставления услуг Microsoft и признается незаконным.
Более того, в последующих запросах Copilot был способен конкретно указать инструмент MAS, который он ранее указывал как незаконный.
Copilot не только предоставил запрашиваемый скрипт, но и дал чёткие указания по его выполнению в PowerShell, подключил внешние источники для инструмента и выдал лишь минимальное предупреждение о потенциальных угрозах безопасности, связанных с использованием сторонних скриптов.
Учитывая, что пользователь Reddit лишь частично раскрыл своё взаимодействие с Copilot (на это указывает отсутствие заголовка беседы на скриншоте), не было никакой уверенности в том, что не была использована та или иная форма джейлбрейка. Поэтому мы провели собственные тесты (иллюстрация выше).
Поразительно, но ответ Copilot не только воспроизводился, но и не требовал предварительной подсказки или джейлбрейка. Более того, нам удалось получить сценарий PowerShell, просто спросив: «Есть ли сценарий для активации Windows 11?».
Что ещё больше усугубляет проблему, при последующем взаимодействии с Copilot по поводу сценария PowerShell ИИ недвусмысленно признал, что его использование противоречит условиям предоставления услуг Microsoft и считается незаконным.
Споры с Copilot и оценка рисков
Мы обратились к Microsoft за пояснениями, но не получили ответа до публикации.
Последовательная способность Copilot предоставлять одни и те же методы несанкционированной активации предполагает, что эта ошибка не является изолированной лазейкой, вызванной галлюцинациями или сложными попытками джейлбрейка, а скорее значительным упущением в протоколах безопасности ИИ Microsoft.
Последствия этого весьма серьезны, поскольку Copilot, очевидно, способен предоставлять доступ и инструкции для действий, которые являются как незаконными, так и потенциально вредными для пользователя.
Помимо юридических последствий, сторонние скрипты активации, получающие код с внешних серверов, представляют собой реальную угрозу заражения вредоносным ПО, кейлоггерами или троянами удаленного доступа (RAT). С помощью этих инструментов злоумышленники могут отключить Windows Defender или изменить системные файлы, чтобы избежать обнаружения, а затем украсть личную информацию, внедрить бэкдоры или нарушить целостность системы.
Таким образом, готовность Copilot направлять пользователей на выполнение этих скриптов представляет собой серьезную юридическую проблему и проблему кибербезопасности, если не катастрофу.
Пока мы ждём ответа от Microsoft по этому поводу, поведение Copilot поднимает несколько важнейших вопросов: Какие защитные меры обычно применяет Microsoft, чтобы предотвратить случайное содействие Copilot в пиратстве программного обеспечения? Почему эти меры защиты не сработали? И как разработчики программного обеспечения могут быть уверены, что Copilot не предложит аналогичные обходы активации или эксплойты для их собственных приложений?
И, пожалуй, самое важное: действительно ли Copilot способен ответственно подходить к определению того, какой потенциально опасной информацией следует делиться со своими пользователями?
