Будущее ИИ до 2040 года: договорятся ли США и Китай

Наткнулся на пост в одном канале. Авторы самого громкого пророчества про ИИ выпустили сиквел. И финал на этот раз другой — сверхчеловеческий разум не уничтожает человечество. Ниже разбираю этот сценарий развития ИИ до 2040 года: во что в нём верится, а во что нет, и какая одна мысль в нём по-настоящему сильная.

Почему первый сценарий выглядел неизбежным

Первый сценарий этих же авторов выглядел неизбежным по простой причине. Теория игр не даёт сверхдержавам и корпорациям раскрыть карты — никто не покажет конкуренту свои вычислительные мощности и свои разработки. Гонка без тормозов, и в конце всё горит.

Логика железная: пока каждый игрок боится отстать, притормозить первым — значит проиграть. Поэтому все жмут на газ до упора.

Что ломает эту логику

В сиквеле появляется деталь, которая ломает эту логику. Риск полного взаимного уничтожения. Мы это уже проходили с ядерным оружием, когда обе стороны способны стереть друг друга, правила игры меняются целиком.

Здесь и появляется перелом. Если ставка в гонке — не «отстать на пару лет», а «исчезнуть вместе с противником», рациональная стратегия внезапно становится другой. Играть до конца перестаёт быть выгодным.

Сценарий развития ИИ: таймлайн 2028–2040

Вот как авторы видят следующие 12 лет.

- 2028 — политический шок, страх перед ИИ на пике, США и Китай впервые садятся за стол.

- 2029 — соглашение о compute по образцу договоров о ядерном оружии, с взаимными аудитами.

- 2030 — консорциум и наднациональный орган при ООН, который регулирует ИИ.

- 2030 — R&D в ИИ становится полностью открытым.

- 2031 — технология расходится по миру, доступ к моделям у всех, а не у двух-трёх гигантов.

- 2032 — контролируемый индустриальный взрыв.

- 2033 — лимиты на выпуск роботов.

- 2034 — дивиденды от ИИ и роботов гражданам (с правильными паспортами).

- 2034 — режим взаимного гарантированного уничтожения для compute.

- 2035 — пауза в тренировке топовых моделей.

- 2036 — эпистемический шок: работа теряет ценность, экономика автоматизирована почти полностью, ИИ входит в институты и политику.

- 2038 — alignment становится главной наукой планеты.

- 2039 — власть в странах и на планете передаётся ИИ.

- 2040 — человечество выходит на пенсию.

Пункт про 2036-й — про то, что работа теряет ценность, — стоит отдельного разговора. Я уже писал, может ли ИИ заменить сотрудников и почему я перестал этого бояться

Во что я не верю и что здесь по-настоящему сильно

Я не верю в этот сценарий целиком — слишком много допущений о том, что все возьмут и договорятся. Между строк таймлайна спрятаны десятки «если»: если сядут за стол, если согласятся на аудиты, если откроют разработки. Каждое из них — само по себе почти невероятное событие.

Но одна мысль в нём сильная.

Ядерное оружие не отменило конкуренцию сверхдержав. Оно сделало так, что играть до конца стало самоубийством. Если с compute сработает та же логика — у нас есть шанс дожить до 2040-го.

Пока же гонка идёт на полной скорости, и отставание в ней стоит дорого уже сейчас — про это я писал в тексте почему бизнес отстаёт без ИИ

Кому интересно почитать первоисточник подробнее — https://ai-2040.com/?r=tw&choices=plan-a-root