Кто станет мастером?

Что отличает мастера? В известном исследовании 1993 г. Андерс Эрикссон, Ральф Крампе и Клеменс Теш-Рёмер обнаружили, что лучшие скрипачи и пианисты в одной из немецких музыкальных академий в среднем практиковались более 10 000 часов до достижения двадцатилетнего возраста.¹ Позже Малкольм Гладуэлл рассмотрел эту тему в своем бестселлере “Гении и аутсайдеры”, где он исследовал успехи во многих областях и вновь пришёл к магическому числу – 10 000 часов. Почему некоторые люди были готовы посвятить столько времени практике, чтобы достичь мастерства? Гладуэлл пришел к выводу, что в большинстве случаев это объясняется простой человеческой предрасположенностью. Они показывали лучшие результаты на ранних этапах, иногда просто потому, что их дата рождения приходилась на начало календарного года и были намного старше других детей в своей группе. Их ранние успехи приводили к положительной обратной связи, что стимулировало их больше практиковаться.

Хотя точное количество часов, необходимых для достижения мастерства, является предметом споров – кому-то требуется меньше времени, кому-то больше, и далеко не каждый, кто много тренируется станет лучшим в своей области, – общий принцип интуитивно понятен: чем больше мы практикуемся, тем лучше у нас получается. Каждый раз, когда вы чем-то занимаетесь, ваш биологический “компьютер” предсказывает и корректирует ошибки, а нейронная сеть мозга подстраивается, чтобы ускорить нейронные связи и синапсы, важные для выполнения этой задачи. Укреплённые нейронные связи работают подобно скоростной магистрали в отличие от просёлочной дороги, позволяя значительно быстрее распознавать и реагировать на шаблоны по сравнению с неукреплёнными связями. С увеличением количества практики и укрепления шаблонов, действия, которые раньше требовали сознательных усилий, начинают выполняться бессознательно.

Много лет назад я помню, как посетил закрытое мероприятие в Пеббл-Бич, Калифорния, где собрались ведущие спортивные и бизнес-лидеры, чтобы обменяться опытом. За эти три дня меня поразило то, как много топовые спортсмены говорили о тренировках – не о крупных достижениях, а о постоянном повторении небольших движений.Среди всех присутствующих особенно выделялся Джерри Райс, бывший принимающий команды “San Francisco 49ers”. Он рассказывал, как продолжал усердно тренироваться после того, как его товарищи по команде расходились по домам, и как работал над собой в межсезонье, чтобы прибыть в тренировочный лагерь перед началом следующего сезона уже в наилучшей форме. Эта самоотверженная преданность тренировкам сделала Джерри Райса одним из лучших принимающих всех времён.

Но можете ли вы себе представить Джерри Райса, выходящего за рамки футбольного поля и играющего на пианино, как Элтон Джон, или понимающего физику, как Эйнштейн? Регулярная практика укрепляет в мозге определённые нейронные связи, ослабляя другие. Это вовсе не означает, что новые навыки и знания невозможно будет освоить, но без уже существующих в мозге структур, к которым можно было бы привязать новую информацию – к уже известным ранее шаблонам – изучение чего-то совершенно нового становится сложнее. В отличие от знакомых нам вещей, где нейронные связи уже укреплены, мозг вынужден заново перестраиваться через повторение и корректировки ошибок. И здесь возникает ловушка: когда требуется новый образ мышления, нам легко застрять в уже привычных нам шаблонах.

Сила технологий #

Давайте вернемся к игре Go. Чтобы достичь 10 000 часов целенаправленной практики в Go, человеку нужно будет посвящать игре четыре часа в день, пять дней в неделю, в течение примерно 10 лет. За такое количество времени и сыгранных партий человек увидит множество ходов и комбинаций, но ему никогда не удастся приблизиться к числу, где после единицы следуют 780 нулей. Если бы человек делал ход каждые шесть секунд, что маловероятно, за 10 000 часов он успел бы сделать шесть миллионов ходов. Однако компьютер, не просто суперкомпьютер, а любой компьютер, который вы можете купить сегодня, способен выполнить шесть миллионов ходов за гораздо меньшее время, чем человеку понадобилось бы на один ход.

Даже если человек смог бы сыграть столько же партий за тот же период времени, что и компьютер, возникает еще одна проблема: как мы запоминаем и воспроизводим информацию. В исследовании, проведённом с участием 3000 человек и опубликованном в “Journal of Experimental Psychology”, исследователи задавали участникам различные вопросы о терактах 11 сентября: с кем они были в тот момент, сколько самолетов участвовало в атаке и какие эмоции они испытывали.² Выявились значительные несоответствия между тем, что люди сообщали сразу после этих событий, и тем, что они рассказывали позже. Почти в 40% случаев люди неверно вспоминали некоторые детали своего опыта, связанного с 11 сентября.

Все мы склонны ошибаться в воспоминаниях. Поскольку наш мозг консолидирует информацию от всех наших органов чувств из краткосрочной памяти в долгосрочную, он обобщает и ищет уже известные шаблоны, чтобы связать новую информацию, заполняя пробелы там, где это необходимо. Сейчас, пока вы читаете или слушаете эти слова, ваш мозг воспринимает гораздо больше информации, чем вы способны запомнить. В дополнение к словам и концепциям из этой книги ваш мозг одновременно получает информацию от всех ваших чувств: обоняния и ощущения окружающего воздуха, температуры, прикосновений, пения птиц за окном, цветовых палитр. То, что вы помните, связано с другими воспоминаниями или мыслями, что помогает поддерживать ваше собственное повествование. Каждый новый опыт объединяется с уже имеющейся информацией. Поскольку невозможно хранить всю эту информацию, вы сознательно либо подсознательно выбираете то, что важно и заслуживает внимания. Часть этой информации переходит в вашу рабочую память, где вы удерживаете её для размышлений и принятия решений. Рабочая память имеет ограниченный объем. Обычно считается, что рабочая память имеет объем в семь элементов, плюс-минус два.³ Это справедливо независимо от того, хранятся ли данные в виде цифр, букв или других единиц. Вот краткий пример:

Прочитайте следующую комбинацию букв/цифр: D729F58.

Теперь умножьте 37 на 42.

Теперь, не подглядывая, попробуйте вспомнить комбинацию из букв и цифр.

Поскольку наши органы чувств постоянно получают огромное количество новой информации, а память нашего мозга ограничена, он упрощает процесс хранения, оставляя только самое важное. Если информация, как нам кажется, соответствует нашей внутренней модели, мы запоминаем её именно так. При упрощении некоторые яркие детали теряются или смешиваются с другими воспоминаниями, создавая то, что может быть не совсем точным. Эта память использует наши собственные фильтры прошлого опыта, чтобы запоминать вещи, похожие на то, что мозг ассоциирует с новыми воспоминаниями.

Возможно, по этой же причине для достижения выдающихся результатов требуется упорная практика. Практика исправляет прошлые ошибки, пока не будет достигнут уровень мастерства. С увеличением количества практики правильные движения все больше закрепляются в мозгу и начинают выполняться автоматически. Шаблоны можно распознавать, даже не осознавая этого. Поскольку эти шаблоны теперь укоренились в вашем подсознании, сознательная энергия освобождается для более важных действий или решений, о чем вам расскажут многие выдающиеся спортсмены, описывающие состояние потока.

Другой способ, с помощью которого мозг быстрее декодирует информацию – это определение ее значимости, то есть насколько она выделяется на фоне остальной информации. Ярким примером такого типа памяти является рождение ребенка или смерть любимого человека. Чем более ярким и эмоциональным является переживание, тем легче оно запоминается мозгом, но при этом это не обязательно происходит правильно или с пользой для нас. Мир, который каждый из нас видит и переживает, сильно отличается от того, что видят и переживают другие. Наш разум ищет то, что соответствует нашему восприятию реальности, и постоянно опирается на эти шаблоны, редко задаваясь вопросом об их точности и значимости. Мы на самом деле не слышим и не воспринимаем то, что другие “говорят” так, как они это подразумевают. Скорее, мы “слышим” их через призму своих собственных фильтров ранее усвоенной информации.

Компьютеры не ограничены таким образом мышления.

Компьютеры не привязывают эмоции к хранению информации так, как это делают люди. У них нет проблемы предвзятости (если только они не запрограммированы человеком). Они воспроизводят данные точно в таком же виде, в каком они их получили. При наличии достаточного объема данных или правил игры компьютеры способны видеть все возможные комбинации и их влияние друг на друга, в отличие от человека, который видит лишь ограниченную выборку. Но то, что кажется сверхчеловеческим интеллектом, на самом деле представляет собой всего лишь распознавание шаблонов и масштабное исправление ошибок, без тех упрощений, которые необходимы людям для повышения эффективности. При наличии достаточного количества данных и вычислительных мощностей, компьютер способен одновременно запускать миллиарды симуляций и учиться на каждой из них, не забывая ошибки, допущенные в предыдущих играх. И как только он научится, он никогда не устанет и не забудет.

Таким образом, не трудно представить, что при наличии необходимых данных, вычислительных мощностей и объема памяти практически любую проблему, которую может решить человек, можно решить более эффективно с помощью компьютера.

Что нас ждёт впереди #

По мере того, как искусственный интеллект проникает в различные отрасли, его польза для человечества огромна. Но с каждым новым освоенным навыком ИИ ставит под угрозу рабочие места, так как он выполняет задачи лучше и по значительно более низкой стоимости. Каждый новый навык, который осваивают компьютеры, дополняет глобальную базу знаний, и этот навык можно применять где угодно практически без затрат. Это ещё больше ускоряет темпы инноваций, при которых ИИ начинает превосходить человеческий интеллект во всех сферах деятельности.

Многие отнесутся скептически к этому прогнозу, потому что на данный момент люди гораздо лучше компьютеров обобщают информацию и переносят шаблоны из одной области в другую. Человеческий интеллект по-прежнему значительно превосходит компьютерный в применении знаний из различных сфер для решения задач в новых областях. Компьютерная программа, которая победила Ли Седоля в Go не умеет водить автомобиль, а система, управляющая автомобилем, не может победить в игре “Jeopardy!” (американский аналог шоу “Своя игра” прим. пер.) Современное машинное обучение опирается на узконаправленный ИИ.

Но если узкий ИИ способен превосходить людей в отдельных областях при наличии достаточного объема информации, что произойдет, если мы разработаем узконаправленные ИИ для каждой области знаний? Сможет ли объединение таких узконаправленных ИИ сделать многие из тех качеств, которые мы считаем особыми, совсем не такими уж уникальными? На самом деле, разве не таким образом сегодня строятся наши рабочие места и экономика? Наши доходы в профессии зависят от уровня специализированных знаний, при этом наибольшие суммы получают “лучшие в своем деле” или “эксперты” в узких областях деятельности. В бизнесе, спорте, музыке и практически в любой другой сфере лучшие специалисты зарабатывают в десятки и даже сотни раз больше, чем среднестатистический исполнитель. Стремление стать лучшим стимулирует конкуренцию и обучение, что само по себе часто является движущей силой, побуждающей к годам упорных тренировок для достижения желаемого мастерства. Но когда компьютеры начинают доминировать в какой-либо области, финансовая мотивация быть лучшими в своем деле также снижается. Зачем посвящать всю свою жизнь попыткам освоить то, что ИИ способен выполнять систематически и достигая лучших результатов? Если AlphaGo Zero потребовалось всего три дня, чтобы обыграть всех человеческих соперников, и не прекратить совершенствоваться, становится ли титул чемпиона по игре в Go менее значимым?

Не забывайте, как быстро это всё развивается. Первые Homo sapiens появились более 300 000 лет назад. Алфавит, который сделал возможным письменность был изобретен примерно 3 000 лет назад. Печатный станок был изобретен почти 600 лет назад. Первая механическая компьютерная модель была задумана (но не построена) 170 лет назад. Первые идеи об искусственном интеллекте появились 70 лет назад. Первый ИИ, который одержал победу над гроссмейстером в шахматах был разработан 23 года назад. Первый ИИ, выигравший в “Свою игру”, был создан 8 лет назад. А первый ИИ, обыгравший гроссмейстера в Go, появился 3 года назад. Рост ИИ теперь измеряется месяцами или днями, а не годами, десятилетиями или тем более столетиями. Завтра этот рост будет измеряться минутами и секундами.

Ключевой момент – разница между человеком и машиной заключается в том, что в комбинаторных задачах, содержащих слишком много информации для восприятия или обработки, компьютеры с алгоритмами глубокого обучения имеют значительное преимущество. Конечно, на первых этапах ИИ будет совершать ошибки, как и люди совершают их сегодня, но скорость их исправления будет настолько высокой, что человек даже не сможет её осознать.

Каждая платформа использует узконаправленный искусственный интеллект для решения задач, подобно тому, как это делает AlphaGo Zero, и именно это делает их такими ценными для пользователей. Amazon никогда не смог бы выбрать, какие из своих 500 миллионов товаров показывать каждому уникальному пользователю без ИИ. Google использует похожий ИИ для сортировки триллионов доступных веб-страниц. Точно так же из миллионов приложений в магазине выбирается нужное именно вам, а YouTube подбирает для вас видео, которые могут вам понравиться. Что будет дальше?

Как насчет вашего здоровья?

Оцифровка тела #

Ваше тело и всё, что на него влияет – генетический состав, окружающая среда, пища, кишечный биом, режим тренировок и многое другое – может рассматриваться как информация и быть оцифровано. Разнообразие информационных факторов порождает слишком много возможных комбинаций, чтобы человеческий разум мог их правильно осмыслить. Поскольку люди не способны учесть все движущиеся аспекты, так как их слишком много, мы вынуждены прибегать к обобщениям, что приводит к упущению важных деталей. Посмотрите на то, как сегодня разрабатываются лекарства. На исследования и испытания тратятся миллиарды долларов. Многие из этих препаратов показывают неожиданные побочные эффекты на этапе широких испытаний или после их одобрения, так как взаимодействие между человеком и препаратом отличается в зависимости от индивидуальных особенностей каждого.

Насколько сильно это различие? Возьмём в качестве примера ваш геном. Полная последовательность человеческого генома – нашего полного набора ДНК – была впервые расшифрована в 2003 году. Он содержит около трёх миллиардов пар оснований двух из четырёх возможных химических единиц, которые расположены в двадцати трех парах хромосом в ядре каждой нашей клетки. Каждая хромосома включает сотни или тысячи генов, содержащих инструкции для синтеза белков. Вы можете представить свой геном как инструкцию по созданию и функционированию человека. Но эта инструкция настолько объемна и сложна, что полностью понять её практически невозможно. Существует больше возможных комбинаций и взаимодействий между ними, чем способен осознать человеческий разум, и эта сложность лишь возрастает под воздействием таких факторов, как физическая активность, окружающая среда, питание и приём лекарств. Это напоминает игру в Go: сколько из возможных “ходов” мы и наши врачи упускаем из виду, поскольку можем охватить лишь ограниченное количество всех возможных вариантов и укреплять лишь те шаблоны, которые нам уже известны?

У вас есть Apple Watch? Если да, то у вас на запястье пример будущего медицинского здравоохранения. Apple Watch уже собирают данные ЭКГ, информацию о сердечном пульсе, режиме сна и упражнений. Благодаря своевременному обнаружению отклонений от нормы или повышения сердечного пульса, они уже спасли множество жизней. Помимо данных о сердечном ритме, они также собирают информацию о вашем сне и физических нагрузках, что может способствовать улучшению здоровья. Информация о вашем здоровье, начиная с данных генома и заканчивая данными с Apple Watch и даже поисковыми запросами в Google, служит основой для разработки цифровых систем и появления ИИ, способного достичь тех же успехов в области здравоохранения, которые мы наблюдали во многих других областях. Множество различных источников данных обеспечивают непрерывный поток важной информации, ускоряя развитие ИИ, что в свою очередь улучшает результаты в области здравоохранения и приводит к увеличению объема данных. Текущего объёма данных недостаточно для кардинальных изменений в медицине. Однако уже сейчас ИИ собирает значительно больше информации в режиме реального времени, чем мой врач.

Представьте, что Apple предоставила бы услугу по оцифровке моей ДНК, чтобы объединить эти данные с информацией о моей физической активности, сне и другими показателями. Если бы я доверял их системе безопасности, я охотно передал бы свои данные компании из-за потенциальных преимуществ, которые она могла бы мне предоставить. Получив от них дополнительные данные и обратную связь для улучшения моего самочувствия, после того, как я предоставлю эти данные, я могу также добавить свои медицинские записи и информацию о принимаемых лекарствах. Каждый раз это давало бы ИИ доступ ко всей информации в совокупности, что могло бы предоставить невероятные преимущества, отражающиеся на моих показателях здоровья, всё через единую платформу здравоохранения.

Эти новые платформы в области здравоохранения, вероятно, станут монополиями, как и другие по тем же причинам, которые мы наблюдаем сегодня. Преимущества для пользователей слишком значительны, чтобы их игнорировать, а объединение данных делает эти преимущества ещё более весомыми. Единственный вопрос заключается в том, будет ли эта монополия на данные принадлежать Google, Amazon, Apple, или одной из других платформ, которые уже активно входят в эту сферу, или же новому стартапу, обладающему достаточными ресурсами для быстрого наращивания сбора данных? Опять же, как и в случае с бесплатным Google поиском, сетевые эффекты и доступ к данным принесут обществу невероятные преимущества. Это благоприятно скажется на наших показателях здоровья, снизит стоимость медицинских услуг и обеспечит конкурентные преимущества для компаний, способных эффективно обрабатывать огромные объемы данных.

Это также станет плохой новостью для рынка труда. Почему? Подумайте, сколько рабочих мест возникает из-за неэффективности системы, вызванной асимметрией информации. Представьте себе случай, когда вы посещаете нескольких врачей – терапевта, рентгенолога, гастроэнтеролога и других специалистов – каждый из которых располагает своим собственным персоналом и владеет лишь частью ваших данных. В ходе лечения повторные визиты, узкая специализация и частые ошибки в диагнозах становятся частью общих расходов на здравоохранение. Когда ИИ сокращает эти издержки и приносит пользу для общества, устраняя неэффективность системы, это побочно приводит к сокращению рабочих мест в сфере медицины. С учётом того, что на здравоохранение ежегодно тратится более 3,5 триллионов долларов и оно составляет 19% ВВП США, речь идет о значительном количестве рабочих мест, которые могут быть затронуты.

Например, как сообщалось в статье журнала Nature Medicine за май 2019 года, исследователи разработали 3D-модель глубокого обучения для диагностики рака легких.⁴ При анализе одного изображения модель глубокого обучения превзошла результаты шести экспертов-рентгенологов, снизив количество ложноположительных заключений на 11% и ложное отсутствие диагноза на 5%. По словам доктора Моззияра Этемади, одного из соавторов исследования: “ИИ в 3D может быть гораздо более чувствителен к раннему обнаружению рака легких по сравнению с человеческим глазом, рассматривающим 2D-изображения. Технически это является “4D”, поскольку рассматривается не только одно КТ-сканирование, а два (текущее и предыдущее), а также разница между ними”. Если текущие достижения ИИ в обнаружении рака легких уже превосходит уровень экспертов, то насколько более эффективным ИИ станет в следующем году или через год, когда будет доступно значительно больше данных и возможностей для исправления ошибок? Эта технология может спасти множество жизней благодаря раннему обнаружению заболеваний. Но она также может стоить многим рентгенологам работы. Спросите себя: если бы на кону стояло ваше здоровье или здоровье вашей семьи, выбрали бы вы более дешевый и эффективный метод или предпочли бы тот, который дороже, но обеспечивает сохранение рабочих мест?

На самом деле, во многих случаях ИИ демонстрирует наилучшие результаты в сотрудничестве с человеком, а не работая в одиночку. Хорошим примером является первая версия AlphaGo, которая разрабатывалась годами, основываясь на анализе реальных партий и усилиях множества специалистов в области ИИ. Этот факт побуждает некоторых людей экстраполировать сценарии, где мы совместно с ИИ создаем множество новых рабочих мест. Хотя я согласен, что на начальном этапе люди будут необходимы для обучения и исправления ошибок ИИ, мне кажется, что это не более чем переходный этап. Мы будем корректировать ошибки ИИ, пока он не станет “умнее” нас. В краткосрочной перспективе это может привести к росту числа рабочих мест, но затем даже эти роли, связанные с “обучением ИИ”, исчезнут, когда искусственный интеллект выйдет на более высокий уровень. Не забывайте, что всего через год после появления AlphaGo вышла AlphaGo Zero, которая уже не нуждалась в помощи людей и одержала 100 побед в 100 играх. Это наглядный пример того, что это возможно.

Гонка ИИ #

Но дело не только в увеличении вычислительных мощностей. Мы находимся на переломном этапе, где ключевую роль играет сбор корректных данных, которые машины смогут анализировать и использовать для своего обучения. Сегодня все ведущие компании мира – это компании, работающие с данными, использующие сетевые эффекты, накапливая больше данных по мере своего роста, что, в свою очередь, создает более совершенные системы. Они создают монополии на данные, объединяя огромные наборы информации для достижения впечатляющих результатов. Чем больше данных и чем быстрее они обновляются, тем лучше становится искусственный интеллект и тем более положительными становятся его результаты. Ведущие специалисты в области ИИ стремятся работать в компаниях, обладающих такими наборами данных, поскольку это позволяет проводить эксперименты быстрее. Те, кто владеют нашими данными, накапливают колоссальные объёмы информации, что в конечном итоге дает им контроль над миром.

Именно эта гонка сегодня имеет решающее значение, охватывая геополитические масштабы. Достаточно взглянуть на заявление Владимира Путина об искусственном интеллекте в 2017 году: “Тот, кто станет лидером в области ИИ, будет править миром”.⁵ В эту гонку активно включены не только компании, но и целые государства, вкладывающие огромные средства, чтобы выйти в лидеры.

Эта гонка за лидерство в области ИИ может объяснить некоторые недавние громкие события между правительствами. Например, дело Huawei, в котором правительство США предъявило обвинения китайской компании и её сотрудникам в нарушении санкций и интеллектуальной собственности, показывает насколько серьёзна эта борьба. Не секрет, что Huawei имеет амбиции построить инфраструктуру для сбора потоков данных. Их слоган “Создание полностью подключённого и интеллектуального мира” говорит сам за себя. Контроль над значительной частью сети 5G, которая обеспечит более быструю связь, предоставит любой компании, включая Huawei, огромное преимущество в доступе к данным. Главная революция 5G заключается не только в скорости, которая в 20 раз превышает показатели современных 4G сетей, но и в огромных объёмах данных, которые могут передаваться благодаря расширенной пропускной способности.

Хотя в обвинениях США могут быть некоторые основания, вторичной причиной таких решительных действий может быть желание замедлить конкурента. В бизнесе часто используется проверенная стратегия – подать иск против конкурента, чтобы вынудить его обороняться, тем самым замедлив его развитие, пока собственная компания параллельно разрабатывает план по завоеванию ключевого рынка. Независимо от реальных фактов дела или его последствий, если Huawei рассматривалась бы лидером на стратегически важном для США рынке, то такой шаг мог бы иметь смысл.

Китай сам по себе может обладать уникальным преимуществом в гонке за лидерство в области искусственного интеллекта благодаря численности своего населения и государственного контроля, что позволяет ускорить процесс сбора данных. Правительство Китая может принять решение о сборе и отслеживании данных, и граждане будут лишены возможности повлиять на этот процесс. В отличие от демократических государств, где необходимо заручиться поддержкой избирателей для введения значительных изменений, которые могут нарушить права человека, в Китае такие реформы могут осуществляться без необходимости получения одобрения. Одним из таких примеров является система социального рейтинга в Китае. Она была разработана Государственным советом в 2014 году с целью “позволить заслуживающим доверия гражданам свободно передвигаться, затруднив при этом любые действия тем, чей рейтинг низок.”

Система работает следующим образом: каждый житель Китая получает рейтинг, который находится в открытом доступе. Баллы снимаются за такие действия, как нарушения ПДД, невыплаченные долги или продажу некачественных товаров, а начисляются за пожертвования в благотворительные фонды, сдачу крови и другие полезные поступки. Идея, лежащая в основе первоначального плана, может показаться вполне разумной: она была направлена на борьбу с государственной коррупцией и поощрение коммерческой и социальной честности. Но очевидно, что такая система может стать объектом ошибок и манипуляций. Правила этих систем не универсальны, и они не взаимосвязаны. В некоторых регионах снижают баллы за слишком громкое прослушивание музыки, в других – за переход дороги в неположенном месте или заигрывание в видеоигры. Трудно представить, что в Китае существует система, которая каким-либо образом поощряла бы оппозицию Коммунистической партии. Система уже действует в 12 регионах и должна быть развернута по всей стране в 2020 году. К концу 2018 года в 12 регионах система уже заблокировала доступ к поездкам на высокоскоростных поездах для 5,4 миллиона человек и еще 17 миллионов к авиаперелётам.

Когда такая система будет полностью внедрена, легко представить, как государственная цифровая система слежения, управляемая искусственным интеллектом, сможет получить огромную власть и рычаги воздействия над своими гражданами. Добавление других наборов данных может быть внедрено в кратчайшие сроки. Мессенджеры, посещение сайтов, системы распознавания лиц, медицинские данные и другие виды взаимодействий могут быть интегрированы для создания тотального контроля, как в мире Оруэлла. Если машины контролируют людей, то кто контролирует сами машины? Контроль над данными, управляющими искусственным интеллектом, может легко привести к возникновению нового вида власти, практически абсолютной по своей сути. Как гласит известная цитата британского историка лорда Актона: “Власть развращает, а абсолютная власть развращает абсолютно.”⁶

Хотя в США можно было бы легко призвать к разрушению монопольной власти таких технологических гигантов, как Google или Amazon, на самом деле подобные действия могут привести к еще худшим результатам. В условиях геополитической гонки за превосходство в области ИИ замедление развития американских корпораций с помощью регулирования может привести к тому, что лидерство в области искусственного интеллекта перейдёт к другим странам, таким как Китай или Россия.

Бен Герцель и многие другие хотят иного будущего для ИИ. Бен считает, что существует высокий риск, если ИИ будет находиться под контролем корпорации или государства, так как их цели могут сильно отличаться от интересов всего населения. Если ИИ будет принадлежать корпорациям или правительствам, то преимущества от него получат лишь немногие. Бен давно настаивает на том, что искусственный интеллект общего назначения способен быть значительно более этичным и сочувствующим, чем люди. Тем не менее, шансы создать по-настоящему полезный ИИ будут выше, если его разработчики сами будут обладать высоким уровнем сознательности и сочувствия. Его компания SingularityNET ставит своей целью децентрализацию ИИ и открытие доступа к его преимуществам для всех.

Мне посчастливилось пообщаться с Беном за кружкой пива, и я согласен с его мнением о том, что передача такой мощной технологии под контроль корпораций или правительств чревата серьезными рисками. Эту точку зрения разделяют и многие другие, в том числе Илон Маск и Рейд Хоффман, которые сыграли важную роль в запуске инициативы OpenAI. Миссией OpenAI является “создать безопасный AGI и гарантировать максимально широкое и равномерное распределение его преимуществ”.

Хотя такие открытые инициативы заслуживают уважения, многие из них сталкиваются с проблемой нехватки данных и скорости их передачи, что замедляет процесс обучения. В основе каждой крупной платформы лежит продукт или услуга, которые стимулируют пользователей бесплатно передавать им свои данные – будь то поисковые запросы в Google, вопросы к Alexa или фотографии в Instagram. Затем платформа монетизирует ваши данные различными способами, предлагая вам товары и услуги более эффективно или продавая ваши данные рекламодателям. На протяжении этого времени платформа использует свои огромные ресурсы данных, чтобы непрерывно улучшать свои услуги. Предоставление своих данных кажется небольшой ценой за исключительные преимущества сервиса. Однако именно в этом заключается проблема открытых инициатив в области ИИ за пределами компаний, где существует финансовая заинтересованность в том, чтобы предоставить продукт или услугу в обмен на данные, необходимые для улучшения этого продукта. Сложно представить, что какие-либо из этих открытых инициатив смогут привлечь достаточное внимание без уникального продукта или услуги, которые бы обеспечивали сбор данных. Отсутствие для пользователей такого “стимула” может привести к замедлению процесса сбора данных или к значительному увеличению их стоимости, что лишь усугубит ситуацию и приведёт к неудовлетворительному опыту, побуждая пользователей искать более привлекательные решения, вероятнее всего, у коммерческих компаний.

В основе нашего интеллекта как вида всегда лежало – и до сих пор лежит – коллективное накопление информации. Нельзя утверждать, что вся эта информация была точной на протяжении всей истории. В прошлом, как и сейчас, было большое количество дезинформации. Исправление ошибок в наших знаниях способствовало развитию науки и открытий, лежащих в основе многих достижений, которые мы сейчас воспринимаем как должное. Каждый новый цикл дополняет предыдущий, что способствует экспоненциальному росту информации и знаний. Логично, что значительный объем информации и знаний теперь переходит к компьютерам, которые способны гораздо быстрее и эффективнее выявлять и корректировать закономерности в огромных наборах данных. Такой темп роста вскоре может привести к тому, что человечество утратит своё первенство на вершине “пирамиды интеллекта”. Как сказал мне несколько лет назад Джорди Роуз, соучредитель D-Wave Systems, одной из ведущих компаний в области квантовых компьютеров: “Может ли какая-либо профессия человека – будь то настоящая или будущая – быть защищена, если вместо него можно нанять андроида Дейта из “Звездного пути”?”

Это также ведет к следующему логическому шагу в нашей собственной эволюции.

Лично я, например, не беспокоюсь о том, что искусственный интеллект однажды захватит мир. Дело не в том, что на этом пути отсутствуют риски, возникающие из-за неправильного применения или недопонимания новых сверхвозможностей ИИ. Некоторые из этих рисков уже были обозначены, например, доминирование одного государства или компании в области искусственного интеллекта, что оставляет в руках лишь немногих людей огромную власть, вследствие чего остальные окажутся их марионетками. Но более вероятно, что мы просто расширим свои когнитивные способности. Подобно тому как книги стали продолжением нашего мышления, что способствовало значительному росту нашего “интеллекта” и улучшению нашего понимания мира, следующим логичным шагом может стать интеграция разума и машины. Исследования в области интерфейсов “мозг-компьютер” стремительно развиваются, и многие охотно выбрали бы путь, который значительно повысил бы их собственный “интеллект”. Как недавно выразился Илон Маск о роботах: “Если вы не можете их победить, присоединяйтесь к ним”.⁷

Но независимо от того, примем мы это или нет, джинна уже не загнать обратно в бутылку. Вот какова правда сегодня:

1. исправление ошибок лежит в основе всего нашего “интеллекта”;
2. информация растет с экспоненциальной скоростью;
3. эта информация передается компьютерам, способным получать знания и исправлять ошибки быстрее, чем человеческий мозг;
4. каждая наша деятельность является функцией нашего интеллекта.

Если каждая деятельность основана на нашем интеллекте, а компьютеры превосходят нас в этом аспекте, то как может быть безопасна какая-либо профессия? Эти обстоятельства приводят к очень предсказуемым социальным изменениям, поскольку вся наша экономика основана на рабочих местах, и для функционирования нашего общества потребуется гораздо меньше людей. Это неизбежно приведет к усилению разделения и поляризации, если мы продолжим игнорировать основную проблему. Получится ли у нас – совместно с нашими машинами – научиться своевременно её решить? Сможем ли мы сделать шаг вперед и принять новую эру изобилия?