От разработчиков программного обеспечения до рабочих — ни одна профессия не останется вне досягаемости автоматизации. Один из видных экспертов по безопасности искусственного интеллекта утверждает, что к 2030 году почти все профессии могут исчезнуть, и переквалификация не может спасти ситуацию.
Поскольку ведущие ИИ-гиганты, такие как OpenAI, Google и Anthropic, по разным сообщениям, сталкиваются с препятствиями — им сложно создавать более совершенные модели из-за недостатка высококачественных учебных материалов — траектория развития этой быстро эволюционирующей технологии с каждым днём становится всё более неоднозначной.
Большинство этих предприятий движутся вперёд, вкладывая миллиарды в развитие ИИ без чёткого плана достижения прибыльности, увлечённые неустанным стремлением к недостижимому рубежу AGI (единого искусственного интеллекта) и обещаниям революционных прорывов.
Различные отчёты указывают на то, что OpenAI уделяет больше внимания отполированным продуктам, чем надёжным протоколам безопасности и этической культуре. Даже генеральный директор Anthropic, Дарио Амодей, недавно признал, что его команда не до конца понимает внутреннее устройство своих собственных систем искусственного интеллекта.
Помимо привычных областей конфиденциальности и кибербезопасности, искусственный интеллект теперь ставит перед нами глубокую экзистенциальную дилемму. Роман Ямпольский, исследователь в области безопасности ИИ, а также директор Cyber Security Laboratory университета Луисвилля, недавно оценил вероятность того, что ИИ может положить конец человечеству, в 99,999999%.
Интересно, что Ямпольский подробно остановился на этих опасениях в недавнем выпуске программы «Дневник генерального директора» со Стивеном Бартлеттом, уделив особое внимание последствиям ИИ для рынка труда (как сообщает Business Insider).
Цитируя Ямпольского:
«В течение пяти лет мы столкнемся с беспрецедентным в истории уровнем безработицы. Не 10% — что само по себе уже пугающе — а 99%».
В связи с быстрым развитием систем ИИ и увеличением инвестиций в гуманоидную робототехнику Ямпольский утверждает, что наём людей может вскоре стать экономически нерациональным.
«Если я могу подписаться на услугу за 20 долларов — или даже использовать бесплатную модель — чтобы выполнить то, что может сделать сотрудник, зачем нанимать его? Каждая задача, выполняемая на компьютере, готова к автоматизации. Я полагаю, что гуманоидные роботы отстают всего на пять лет, поэтому через полдесятилетия физический труд также будет автоматизирован».
— Роман Ямпольский, исследователь в области безопасности ИИ
Ямпольский далее утверждает, что профессии, которые когда-то считались не поддающимися автоматизации, такие как программирование и инженерия, находятся в равной степени под угрозой. Для контекста: соучредитель Microsoft Билл Гейтс предсказал, что ИИ заменит людей в большинстве областей, за исключением нескольких видов деятельности, присущих только человеку. Он пошутил, что никому не будет интересно смотреть, как компьютеры играют в бейсбол.
Гейтс предположил, что три области могут устоять: разработка программного обеспечения, энергетика и биология — профессии, которые, по его мнению, слишком сложны, чтобы ИИ мог полностью их заменить, и настаивает, что человеческий контроль остаётся незаменимым. Однако Ямпольский возражает:
«ИИ намного превосходит человека в создании указаний и подсказок для других ИИ. Эта роль тоже обречена на исчезновение».
Переквалификация и профессиональное переобучение часто предлагаются в качестве противодействия потере рабочих мест в результате автоматизации, Ямпольский утверждает, что эти меры окажутся бесполезными, поскольку возможности ИИ опережают способность человека к адаптации.
«Раньше мы предупреждали: «Эта работа будет автоматизирована — переквалифицируйтесь на другую». Но если каждая работа подвержена автоматизации, то запасного плана нет. Переобучение теряет смысл».
Безопасность искусственного интеллекта и поиск решений
Роман Ямпольский утверждает, что передовые технологии продвинулись до той степени, что теперь они ускользают от нашего полного понимания, что делает попытки их сдержать чрезвычайно сложными. «Изначально я верил, что можно создать безопасный искусственный интеллект, — признался он, — но чем глубже я вникал в эту тему, тем яснее становилось, что такая задача может быть нам не по силам».
Тем не менее, он настаивает, что надежда остаётся. По словам Ямпольского, человечество всё ещё может проявить инициативу и взять на себя ответственность за опасности, присущие этой технологии, путем повышения осведомленности ключевых фигур в сфере генеративного ИИ.
«Если люди поймут, что определенные действия действительно вредят их собственным интересам, они воздержатся от них. Поэтому наша миссия — убедить всех влиятельных участников — тех, кто разрабатывает эту технологию, тех, кто работает в этих компаниях — что их действия в конечном итоге могут нанести им личный ущерб. Не говоря уже о восьми миллиардах людей, которые подвергаются беспрецедентным экспериментам без их одобрения или согласия. Результат не принесет удовлетворения».
— Роман Ямпольский, специалист по безопасности ИИ
В более широком смысле Ямпольский утверждает, что общество может вернуть себе контроль над этими технологическими силами, уделяя приоритетное внимание созданию систем, которые действительно приносят пользу человечеству, необходимо проследить, чтобы ключевые лица, принимающие решения и направляющие эту революцию, были действительно подготовлены и квалифицированы для того, чтобы нести такую огромную ответственность.
