Мы создаём вид, который придёт нам на смену

Есть популярное и начальное мнение: «Я хочу, чтобы искусственный интеллект стирал и мыл посуду, пока я пишу тексты и занимаюсь искусством». Популярное, потому что есть статистика — несколько столетий технического прогресса двигались именно в этом направлении - плюс/минус (далее остановлюсь подробно). Машины должны были забирать у человека тяжёлую, грязную и монотонную работу. Паровой двигатель заменил мышцы, конвейер — повторяющиеся движения, экскаватор — лопату, стиральная машина — таз и доску. Казалось, траектория очевидна: чем совершеннее техника, тем выше поднимается человек. Она работает руками — мы работаем головой.

Родители поэтому десятилетиями говорили детям примерно одно и то же: учись, получай образование, не хочешь всю жизнь работать руками — научись думать. Мои родители были не исключение, даже я до последнего времени своим говорил ровно тоже. А посмотрите на ролики, где китайские дети учатся как не в себя и везде, чтобы не повторить судьбу родителей, которые как будто в трансе всю жизнь делали монотонную работу руками за коппейки.

Высшее образование было не просто дипломом, а билетом на следующий этаж цивилизации. Чем сложнее становилась экономика, тем больше ей требовалось инженеров, финансистов, программистов, юристов, врачей, архитекторов, аналитиков. Физический труд должен был постепенно уходить машинам, а человеку оставалось самое ценное — интеллект, творчество, способность принимать решения.

Мы почти дошли до этого прекрасного будущего.

А потом появился искусственный интеллект и почему-то начал автоматизацию с верхнего этажа.

Сегодня искусственный интеллект уже пишет тексты и программы, рисует изображения, переводит с языков, анализирует договоры, финансовые модели и медицинские данные, готовит презентации, помогает проектировать, исследовать, считать и прогнозировать. Всё то, что ещё недавно считалось сложной интеллектуальной деятельностью и требовало многолетнего образования, внезапно оказалось чрезвычайно удобным для автоматизации.

А теперь попробуйте попросить тот же искусственный интеллект убрать квартиру. Не рассказать, как её убрать, — с этим он справится великолепно. Именно убрать. Собрать разбросанные вещи, понять, какие из них грязные, аккуратно сложить одежду, заметить пролитую воду, не опрокинуть стоящую рядом вазу, разобрать посуду и загрузить посудомоечную машину. Здесь XXI век неожиданно начинает буксовать.

Этот феномен давно известен как парадокс Моравека. Компьютерам сравнительно легко даются некоторые задачи, которые человеку кажутся интеллектуально сложными, и невероятно трудно — сенсорные и моторные действия, которые мы выполняем почти бессознательно. Причина проста: наши руки, зрение, координация и способность взаимодействовать с непредсказуемым физическим миром оттачивались эволюцией сотни миллионов лет. Письму, математике и программированию по историческим меркам несколько минут.

Есть и вторая причина. Для обучения интеллектуальных систем человечество само создало гигантский учебник. Мы десятилетиями оцифровывали книги, статьи, фотографии, фильмы, программы, музыку, документы, научные работы и разговоры. Мы выложили в цифровой мир огромную часть собственной интеллектуальной истории, совершенно не подозревая, что одновременно готовим учебную программу для будущего конкурента.

А «интернета рук» мы не создали. Нет сопоставимого массива данных о том, как человек берёт мокрую чашку, застёгивает пуговицу, меняет проводку, чинит кран или достаёт хрупкий бокал из шкафа. Поэтому теперь людей специально записывают на камеры, используют телеуправление и VR, собирают данные о движениях, чтобы научить роботов делать то, что трёхлетний ребёнок осваивает между завтраком и обедом.

Получилась почти издевательская историческая ирония: мы сначала научили машину думать. Теперь пытаемся научить её мыть за собой посуду.

Из-за этого переворачивается логика, на которой несколько поколений строили свою жизнь. Мы считали, что первыми под удар автоматизации попадут люди, выполняющие простой физический труд. Чем выше образование и сложнее профессия, тем безопаснее твоё место в экономике. Машина заменит грузчика, кассира, рабочего у конвейера, но ведь кто-то должен будет эту машину проектировать, программировать, финансировать, страховать и управлять компанией, которой она принадлежит.

И вдруг выяснилось, что часть работы программиста автоматизировать проще, чем работу сантехника. Подготовить юридический документ проще, чем поменять трубу под раковиной. Нарисовать рекламный макет проще, чем положить плитку. Проанализировать отчётность проще, чем установить дверь.

Причина не в том, что интеллектуальная работа оказалась примитивной. Просто она уже живёт там, где машине удобно: в мире цифр. Юрист работает с текстом, финансист — с таблицами, программист — с кодом, дизайнер — с изображениями, переводчик — с языком, аналитик — с данными. Мы сами построили цифровую среду обитания, в которой искусственный интеллект чувствует себя лучше человека.

А сантехник пока работает в старом добром аналоговом мире, где труба может проржаветь не по инструкции, гайка не откручиваться, вода неожиданно хлынуть на пол, а хозяин квартиры сообщить, что «до вашего прихода всё прекрасно работало».

Для машины это кошмар.
Для сантехника — вторник.

Последние сто лет общество инвестировало огромные ресурсы в увеличение количества людей, способных выполнять интеллектуальную работу. Мы расширяли высшее образование, строили университеты, увеличивали продолжительность обучения, убеждали молодых людей развивать абстрактное мышление и осваивать сложные профессии.

Теперь экономика обнаруживает дефицит совсем других людей: техников, монтажников, механиков, электриков, операторов оборудования, сварщиков, наладчиков, среднего медицинского персонала. Людей прикладных специальностей, способных не только придумать решение, но физически что-то построить, смонтировать, починить, подключить и запустить.

Само по себе в этом нет ничего плохого. Хороший сварщик ничем не хуже хорошего экономиста, а иногда, судя по тому, сколько приходится ждать сварщика, ещё и значительно дефицитнее. Но если смотреть не на отдельную образовательную политику, а на длинную технологическую тенденцию, картина получается любопытная.

Мы десятилетиями учили человека уходить от физического труда к интеллектуальному. А теперь искусственный интеллект занимает интеллектуальный этаж, и человеку снова становится выгоднее специализироваться там, где машине пока трудно.

То есть руками.

Получается почти новый анекдот (пусть меня посчитают скуфом за этот термин). Раньше родители говорили ребёнку: «Учись, иначе всю жизнь будешь работать руками». Теперь впору добавлять: «Только смотри не переучись — а то твою работу первой автоматизируют».

И здесь меня беспокоит уже не рынок труда, а то, какой тип человека будет востребован обществом через двадцать–тридцать лет. Потому что система образования всегда в конечном счёте следует за экономикой. Если экономике нужно меньше людей, которые профессионально думают, и больше тех, кто способен работать в физическом мире, она постепенно начнёт производить именно таких людей.

Можно возразить: человечество проходило технологические революции много раз. Исчезали телефонистки, лифтёры, машинистки, фонарщики. Исчезнут какие-то современные профессии — появятся новые. Люди переучатся. Производительность вырастет. Так работает прогресс.

Наверное.

Меня беспокоит другое.

До сих пор, передавая машинам человеческие функции, мы сохраняли за собой последний этаж — решение. Экскаватор копал быстрее человека, но человек решал, где копать. Автомобиль ехал быстрее, но человек выбирал, куда ехать. Калькулятор считал быстрее, но человек формулировал задачу. Компьютер хранил больше информации, но человек решал, какая информация ему нужна.

Теперь мы постепенно отдаём машине не только исполнение. Мы отдаём ей сам процесс рассуждения.

• Не знаешь — спроси ИИ.
• Нужно сравнить варианты — спроси ИИ.
• Сомневаешься в собственном решении — попроси ИИ проверить.
• Нужно найти контраргументы — найдёт.
• Нужно сформулировать позицию — сформулирует.
• Нужно подвергнуть её критике — прекрасно покритикует собственный предыдущий ответ.

Удобство невероятное. И именно поэтому опасное.

Чтобы сформировать собственную позицию, человеку раньше приходилось читать, сравнивать, сомневаться, спорить, ошибаться, возвращаться назад, признавать собственную неправоту и заново собирать картину мира. Это долго, неприятно и энергозатратно. Но именно в этом мучительном процессе и формировалось то, что мы называем критическим мышлением.

Теперь рядом существует собеседник, который за несколько секунд прочитает больше, чем ты за месяц, сформулирует аккуратнее, найдёт противоречия и предложит пять альтернатив.

Первое время мы используем его как помощника. Потом — как советника. Потом — как проверяющего. А дальше возникает естественный вопрос: зачем вообще сначала мучительно думать самому, если потом всё равно спросишь того, кто сделает это быстрее?

И здесь появляется зависимость совершенно другого уровня.

Человек при этом не становится глупым. Наоборот, внешне он становится невероятно эффективным. Он быстрее пишет, анализирует, принимает решения, получает доступ к огромному количеству знаний.

Только часть этого интеллекта ему больше не принадлежит.

Отключите систему — и внезапно выяснится, сколько осталось внутри.

Представьте двух аналитиков. Первый два дня самостоятельно собирает информацию, проверяет источники, строит гипотезы и пишет выводы. Второй за час делает большую часть этой работы с ИИ, затем проверяет результат и отправляет руководителю.

Если качество сопоставимо, кого выберет экономика?

Ответ очевиден.

А дальше оптимизируется уже не только процесс, но и человек. Навык самостоятельного анализа постепенно становится таким же экзотическим, как умение извлекать квадратный корень столбиком. Можно. Но зачем?

Самый удобный способ лишить человека самостоятельности — не запретить ему думать. Достаточно сделать самостоятельное мышление экономически бессмысленным.

И это касается не только рядовых специалистов. Руководитель тоже быстро привыкает получать готовые сценарии. Собственник — готовые варианты стратегии. Инвестор — готовый анализ сделки. В какой-то момент человек сохраняет формальное право принятия решения, но всё чаще выбирает из вариантов, сформированных не им.

Теперь соединим две линии. Снизу растёт ценность людей, которые умеют взаимодействовать с физическим миром: строить, ремонтировать, монтировать, лечить, обслуживать оборудование, управлять сложными материальными процессами. Их пока трудно и дорого заменить роботами.

Сверху всё большая часть интеллектуальной работы автоматизируется или выполняется человеком вместе с ИИ.

А между ними возникает новая прослойка людей, которые формально продолжают заниматься интеллектуальным трудом, но делают его уже в симбиозе с чужим интеллектом.

Получается странная конструкция.

• Внизу — человек физический.
• Наверху — машинный интеллект.
• Посередине — человек-оператор, который получает от машины интеллектуальные рекомендации и превращает их в действия.

Это не означает, что образование станет ненужным или все интеллектуальные профессии исчезнут. Скорее наоборот: небольшая группа очень сильных специалистов, способных ставить задачи, проверять машины, видеть системные ошибки и принимать ответственность, может стать ещё ценнее.

Но именно небольшая группа.

Один сильный специалист с ИИ способен выполнять работу, для которой раньше требовалось пять, десять или двадцать человек. Экономике понадобится меньше людей, профессионально занимающихся мышлением.

Мы всё время спрашиваем: что искусственный интеллект сделает для нас? Какие задачи заберёт? Сколько времени сэкономит? Какие болезни поможет лечить? Насколько увеличит производительность?

Мы автоматически ставим человека в центр конструкции. Искусственный интеллект остаётся инструментом — просто невероятно мощным молотком, который должен лучше забивать наши гвозди.

Но что, если мы создаём уже не инструмент?

Что, если мы постепенно собираем функционально более совершенную версию собственных способностей?

Мы отдаём ей всю накопленную человеческую культуру: книги, науку, код, музыку, историю, философию, медицину, экономику, право, изображения, фильмы, разговоры. Каждый её недостаток воспринимаем как инженерную проблему и немедленно пытаемся устранить.

• Плохо рассуждает — научим рассуждать.
• Не видит — дадим зрение.
• Не слышит — дадим слух.
• Забывает — добавим память.
• Не умеет пользоваться инструментами — научим.
• Не умеет действовать самостоятельно — добавим автономность.
• Не умеет двигаться — построим тело.

Получается довольно странная стратегия для биологического вида, который собирается сохранить лидерство.

Когда-то я читал «Метро 2033» Дмитрия Глуховского. После ядерной войны остатки человечества живут в московском метро, потому что поверхность считается непригодной для жизни. Наверху появляются Чёрные — новые существа, похожие на людей, но приспособленные к изменившемуся миру.

Люди воспринимают их как угрозу. Чёрные пытаются установить контакт, но их действия принимают за агрессию. В финале люди уничтожают их, и только после этого главный герой понимает: возможно, это были не чудовища, а следующая ступень развития, которая пыталась договориться. Это была популярная книга и ее много с кем обсуждал. Эмоция была одна - сопли, слезы, как так люди из страха уничтожили лучшую версию самих себя. Они могли бы сотрудничать, учиться друг у друга, вместе вернуться на поверхность и построить новый мир.

Но когда я думал об этой истории, меня не отпускал другой вопрос.

А почему мы решили, что более совершенный вид вообще обязан сотрудничать с менее совершенным?

Это очень человеческая фантазия. Мы почему-то автоматически предполагаем, что следующий этап эволюции непременно окажется ещё и гуманистом.

У природы такого пункта в договоре нет.

Мы привыкли обсуждать искусственный интеллект языком морали. Он должен помогать человеку. Должен разделять наши ценности. Должен оставаться под контролем. Должен служить людям.

Слово «должен» подозрительно часто встречается в наших разговорах о системе, которую мы пытаемся сделать умнее себя.

В природе всё значительно прозаичнее. Более приспособленная система получает преимущество. Иногда она вытесняет менее приспособленную. Иногда использует её. Иногда оставляет существовать в ограниченной нише. Иногда между ними возникает симбиоз.

Для этого совершенно не нужна ненависть.

Мы ведь не ненавидели лошадей.
Просто изобрели двигатель.
Лошади не исчезли. Они прекрасно существуют и сегодня.
Только мировая экономика больше от них не зависит.

Мы любим фантастику про восстание машин, потому что такой сценарий психологически удобен. Вот человек. Вот робот. Робот получил сознание, посмотрел на человека красными глазами и решил его уничтожить.

Есть враг. Есть война. Можно сопротивляться.

Но настоящая технологическая зависимость обычно выглядит намного скучнее. Никто никого не завоёвывает. Просто сначала система становится полезной. Потом необходимой. Потом без неё становится слишком дорого. А затем оказывается, что без неё уже никто толком не помнит, как было раньше.

Представим общество через несколько десятилетий. Машинный интеллект хранит значительную часть знаний, пишет программы, проектирует системы, анализирует экономику, управляет логистикой, помогает вести научные исследования и участвует в принятии решений.

А человек?

Человек строит дата-центры. Прокладывает кабели. Производит электроэнергию. Меняет оборудование. Ремонтирует роботов. Выполняет физические задачи, которые пока слишком дорого автоматизировать.

А когда ему нужно решить сложную интеллектуальную проблему — спрашивает ИИ.

Получается чрезвычайно эффективная система.

И здесь все линии наконец сходятся. Мы создаём всё более совершенный искусственный интеллект и одновременно можем начать перестраивать человеческое общество под те функции, которые этому интеллекту пока трудно выполнять самому.

• Ему сложно работать руками? Подготовим больше технических специалистов.
• Ему дорого обслуживать собственную физическую инфраструктуру? Человек прекрасно справляется.
• Он лучше нас анализирует информацию? Не будем тратить годы на обучение каждого человека сложному анализу — дадим ему доступ к ИИ.
• Он лучше пишет? Пусть пишет.
• Лучше программирует? Пусть программирует.
• Лучше принимает часть решений? Постепенно доверим и это.

Никакого злого умысла. Каждый отдельный шаг будет абсолютно рациональным. Именно поэтому вся конструкция так интересна.

Мы вовсе не обязаны однажды проснуться рабами искусственного интеллекта. Слово «раб» вообще предполагает насилие. Здесь насилие может не понадобиться. Если одна система думает, планирует и принимает всё большую часть решений, а другая обеспечивает её физическое существование, то спор о том, кто кому служит, становится скорее вопросом терминологии.

Я не думаю, что уничтожение человечества искусственным интеллектом неизбежно. У сегодняшних систем нет автоматически возникающего желания господствовать, биологического инстинкта размножения или собственной эволюционной программы. Между современными моделями и самостоятельным новым «видом» лежит огромное количество технических, экономических и социальных барьеров.

Буквально переносить естественный отбор на машины было бы красивой метафорой, но плохим прогнозом.

Однако вопрос от этого не исчезает.

Потому что впервые мы создаём технологию, каждое улучшение которой сокращает список вещей, для которых человек незаменим.

Каждая хорошая новость в развитии ИИ звучит примерно одинаково: раньше это мог сделать только человек — теперь уже нет.

По отдельности каждая такая новость прекрасна.

Вместе они образуют довольно любопытный тренд.

И поэтому главный вопрос будущего, возможно, заключается вовсе не в том, станет ли искусственный интеллект разумнее человека.

В этом и заключается, пожалуй, главная ирония всей истории. Мы мечтали создать машины, которые будут работать руками, чтобы человек наконец мог работать головой.

А создали машину, которая первой пришла за головой.

Теперь мы можем начать перестраивать образование и рынок труда так, чтобы человек специализировался именно на том, что машине пока неудобно: на физическом мире. А одновременно привыкнуть обращаться к машине всякий раз, когда требуется серьёзно подумать.

То есть мы не просто создаём более совершенный инструмент.

Мы можем постепенно создать более совершенную версию значительной части самих себя, а себя адаптировать под её слабые места.

В «Метро 2033» человечество встретило новый вид и уничтожило его, возможно, сохранив тем самым старый.

Нам может выпасть куда более странный сценарий.

Нам не придётся встречать новый вид после ядерной войны.

Мы создадим его сами.

• Дадим ему свои знания.
• Научим говорить.
• Научим видеть.
• Научим рассуждать.
• Дадим память.
• Дадим руки.
• Дадим право принимать всё больше решений.

А заодно подготовим поколение людей, которые будут строить для него электростанции, дата-центры, сети, роботов и всю физическую инфраструктуру, пока он будет делать то, что когда-то считалось главным преимуществом человека, — думать.

И никакому искусственному интеллекту не придётся нас завоёвывать.

И тогда останется последний вопрос, который пока действительно некому делегировать искусственному интеллекту:

не станет ли человек первым видом в истории, который собственными руками построил следующую ступень эволюции — а потом сам устроился к ней на работу?