AGI: как искусственный общий интеллект меняет представление о будущем

Дословный перевод материала из блога Sam Altman: 

Sam Altman:

Наша миссия — сделать так, чтобы AGI (Artificial General Intelligence) приносил пользу всему человечеству.

Уже появляются системы, которые указывают на приближение AGI, и мы считаем важным осознать, в какой точке мы сейчас находимся. Термин AGI пока что слабо определён, но в целом подразумевает систему, способную решать всё более сложные задачи на уровне человека в самых разных областях.

Люди — создатели инструментов, движимые врождённым стремлением к пониманию и творчеству, и это ведёт к тому, что мир в целом становится лучше для нас всех. Каждое новое поколение основывается на открытиях предыдущих, чтобы создавать ещё более мощные инструменты — электричество, транзистор, компьютер, интернет, а теперь и AGI.

Со временем, хотя и прерывисто, постоянный марш человеческих инноваций привёл к таким уровням процветания и улучшения качества жизни, которые раньше казались немыслимыми.

С одной стороны, AGI — это просто ещё один инструмент в бесконечно растущем «строительном лесу» человеческого прогресса, который мы возводим все вместе. С другой стороны, это начало чего-то такого, о чём сложно не сказать «на этот раз всё иначе»: грядущий экономический рост выглядит поразительным, и мы уже можем представить мир, где мы излечим все болезни, у нас будет гораздо больше времени для семьи и мы сможем полностью реализовать свой творческий потенциал.

Возможно, уже через десятилетие каждый человек на Земле сможет достигать большего, чем сегодня может самый влиятельный человек.

Мы видим, как развитие ИИ идёт очень быстро. Ниже три замечания об экономических аспектах ИИ:

«Интеллект» модели ИИ примерно равен логарифму от ресурсов, используемых для её обучения и работы. К этим ресурсам в основном относятся вычислительные мощности на этапе обучения, данные и вычислительные мощности для вывода (инференса). Похоже, можно потратить практически любую сумму, чтобы добиться непрерывных и предсказуемых улучшений: законы масштабирования, которые это описывают, оказываются точны в пределах многих порядков величин.

Стоимость использования определённого уровня ИИ падает примерно в 10 раз каждые 12 месяцев, а снижение цены приводит к значительному росту использования. Это можно увидеть на примере стоимости токенов в GPT-4 в начале 2023 года и GPT-4o к середине 2024-го, когда цена за токен упала примерно в 150 раз за этот период. Закон Мура менял мир, удваивая мощности каждые 18 месяцев; то, что мы наблюдаем сейчас, невероятно мощнее.

Социально-экономическая ценность линейно растущего «интеллекта» имеет суперэкспоненциальный характер. Из этого следует, что мы не видим причин, по которым экспоненциальный рост инвестиций в ближайшее время должен прекратиться.

Если эти три фактора сохранятся, влияние на общество будет значительным.

Мы уже начинаем выводить на рынок ИИ-«агентов», которые в итоге будут ощущаться как виртуальные коллеги.

Представим «агента-программиста», который, по нашим ожиданиям, особенно важен. Вообразим, что со временем он сможет выполнять большинство задач, которые делает программист с несколькими годами опыта в ведущей компании, если речь идёт о проектах на пару дней. У него не будет самых масштабных новых идей, ему потребуется много человеческого контроля и указаний, и он будет в чём-то великолепен, а в чём-то удивительно слаб.

Но всё же представьте его как настоящего, хоть и сравнительно «младшего», виртуального коллегу. Теперь представьте, что таких агентов тысяча. Или миллион. А затем — что подобные агенты есть в каждой сфере умственного труда.

В некотором смысле ИИ может оказаться похожим на транзистор в экономическом плане — крупное научное открытие, которое хорошо масштабируется и постепенно проникает почти во все уголки экономики. Мы нечасто задумываемся о транзисторах и компаниях, которые их производят, а выгоды от них очень широко распределены. Тем не менее мы рассчитываем, что наши компьютеры, телевизоры, автомобили, игрушки и многое другое будут творить чудеса.

Мир не меняется в одночасье — такого никогда не было. В ближайшей перспективе жизнь в основном будет идти так же, как раньше, и в 2025 году люди будут проводить время примерно как в 2024-м. Мы продолжим влюбляться, создавать семьи, спорить в интернете, ходить в походы и так далее.

Но будущее будет приближаться настолько очевидно, что его невозможно будет игнорировать, а долгосрочные изменения в обществе и экономике окажутся колоссальными. Мы найдём новые занятия, новые способы быть полезными друг другу и новые пути конкуренции, но они могут не слишком походить на нынешние профессии.

Инициативность, воля и упорство, вероятно, будут крайне цениться. Умение определить, что делать, и сориентироваться в постоянно меняющемся мире будет иметь огромное значение; настойчивость и адаптивность станут важными навыками. AGI будет самым мощным «рычагом» для человеческой целеустремлённости и позволит отдельным людям влиять на мир сильнее, чем когда-либо прежде, а не слабее.

Мы ожидаем, что воздействие AGI будет неравномерным. В некоторых отраслях мало что изменится, но научный прогресс, скорее всего, ускорится намного сильнее, чем сейчас; и это влияние AGI может превзойти все остальные факторы.

Со временем стоимость многих товаров будет стремительно падать (на данный момент на цену многих вещей в основном влияют стоимость «интеллекта» и энергии), в то время как стоимость предметов роскоши и некоторых ограниченных ресурсов, например земли, может вырасти ещё сильнее.

Технически нам кажется, что путь вперёд достаточно ясен. Но государственная политика и коллективное мнение о том, как мы должны интегрировать AGI в общество, очень важны; одна из причин, почему мы рано и часто выпускаем продукты, заключается в том, чтобы дать обществу и технологиям время для совместной эволюции.

ИИ проникнет во все сферы экономики и общества; мы будем ожидать, что всё вокруг станет «умным». Многие из нас уверены, что в будущем людям придётся давать больше контроля над технологией, чем historically (исторически) давалось, в том числе открывать больше исходного кода, и признавать, что баланс между безопасностью и личной свободой подразумевает компромиссы.

Мы никогда не хотим действовать безрассудно, и, вероятнее всего, появятся серьёзные решения и ограничения, связанные с безопасностью AGI, которые не всем придутся по душе. Но в целом, по мере приближения к полноценному AGI, мы считаем важным смещаться в сторону усиления возможностей каждого человека. Другой путь, который мы видим, — это использование ИИ авторитарными правительствами для тотальной слежки и подавления свободы.

Крайне важно, чтобы выгоды от AGI распределялись широко. Исторический опыт подсказывает, что большинство показателей (состояние здоровья, экономическое благополучие и т. д.) с течением времени в среднем улучшаются, однако неравенство не устраняется само собой, и для этого, вероятно, потребуются новые идеи.

В частности, баланс сил между капиталом и трудом легко может нарушиться, и, возможно, потребуется раннее вмешательство. Мы открыты к нестандартным идеям, вроде предоставления всем жителям планеты «вычислительного бюджета», чтобы они могли в больших объёмах пользоваться ИИ. Но нам также видится много способов, при которых неуклонное снижение стоимости «интеллекта» само по себе даст желаемый результат.

Любой человек в 2035 году должен иметь возможность собрать интеллектуальные ресурсы, эквивалентные тем, которыми располагало всё человечество в 2025-м; каждому должен быть доступен «неограниченный гений», который можно применять, как только представляется возможным. Уже сейчас есть огромное количество талантливых людей, у которых нет достаточных ресурсов, чтобы полностью раскрыть свой потенциал. Если мы это изменим, тот творческий вклад, который получит весь мир, принесёт колоссальную пользу всем нам.

Используя здесь термин AGI, мы хотим добиться максимальной ясности и не собираемся менять или как-то интерпретировать определения и процессы, лежащие в основе наших отношений с Microsoft. Мы уверены, что будем сотрудничать с Microsoft в долгосрочной перспективе. Возможно, эта сноска выглядит странно, но мы знаем, что некоторые журналисты хотят «собрать клики» с провокационными заголовками, так что мы таким образом заранее пресекаем подобную глупость…

---

Мы стоим на пороге новой эры, где каждый сможет использовать достижения AGI для изменения своей жизни и всего общества. Важно помнить, что будущее зависит от нашего совместного вклада и ответственного подхода — и это лишь начало великого пути, который нам всем предстоит пройти.