Сергей Карелов: люди исчезнут, оставив следующему носителю интеллекта часть своих генов

www.stoyanvassev.com
Автор Ekaterina Dudakova
Рубрика Интервью, Люди
ДАТА ПУБЛИКАЦИИ 1 марта 2024
ВРЕМЯ ПРОЧТЕНИЯ 8 min.

Сергей Карелов: люди исчезнут, оставив следующему носителю интеллекта часть своих генов

Последние 30 лет технологии движутся невероятными темпами: бок о бок с нашими детьми подрастает, умнеет и учится искусственный интеллект, о котором еще недавно люди только мечтали и снимали кино. Осознать масштаб его развития практически невозможно… Но очень важно! И свои вопросы мы адресуем Сергею Карелову, кандидату технических наук, бывшему топ-менеджеру легендарных технологических компаний IBM, Silicon Graphics и Cray Research, председателю Лиги независимых ИТ-экспертов ЛИНЭКС и создателю стартапа Witology – проекта, работающего в области коллективного интеллекта и разума. Проработав в ИТ-сфере более 30 лет, Сергей ведет блог и телеграм-канал «Малоизвестное Интересное», в котором рассказывает о последних прорывах в области ИИ, о возможностях его использования для бизнеса и о том, что ожидает человечество в будущем. Мы поговорили с Сергеем о влиянии ИИ на глобальную культуру, о мировой конкуренции в области технологий и о чем следует задуматься каждому из нас.

Сергей Карелов: люди исчезнут, оставив следующему носителю интеллекта часть своих генов | London Cult.
Photo: MMD Creative / Shutterstock

Мы все знаем о революции ChatGPT. Но что сулит миру развитие искусственного интеллекта с точки зрения культуры, а также политической и социальной сфер?

На самом деле я пишу об этом уже не первый год. А революция ChatGPT… Так всё к этому шло! И вопрос заключался только в том, когда это произойдет: в этом году или в следующем?

Причем речь о том, что это не просто очередной технологический скачок типа изобретения электричества. ИИ окажет более сильное влияние на человечество, нежели, например, изобретение способов использования огня нашими дальними родственниками. Я называю это «Пятый когнитивный фазовый переход». А именно: первый переход случился с предками человека, когда сформировалась возможность использования развитого языка абстрактных понятий, что позволило людям начать общаться между собой, передавая информацию как между персонами в пространстве, так и во времени из поколения в поколение.

Второй когнитивный переход связан с появлением письменности, информацию начали экстернализировать (externalise), люди коммуницировали друг с другом. Если раньше они держали знания исключительно в мозгу, в своём сознании, то изобретение письменности позволило их выделить, транслировать, масштабировать.

Третий когнитивный переход, фазовый – это компьютеры. И он не так уж давно начался, буквально в середине прошлого века, что позволило вот эту экстернализированную информацию начать оцифровывать. Вы помните те времена, когда стали появляться первые цифровые диски, файлы на компьютерах, сначала текстовые, потом звуковые, видео… Началась глобальная цифровизация мира.

И следующий когнитивный переход, четвертый, произошёл уже совсем быстро, лет через 30-40 после предыдущего. Речь идет о развитии интернета, который всю эту цифровую информацию превратил в некую гигантскую инфосеть, наподобие тех, о которых писал ещё в начале прошлого века Тейяр де Шарден. Причём ещё раз обращаю внимание:  речь идет об уже оцифрованной информации, цифровой инфосфере.

Последний же когнитивный переход, который, условно можно считать, начался с появлением ChatGPT, – это возникновение в цифровом мире второго интеллектуального агента, по уровню сопоставимого с человеком. Уже существует некий второй высший интеллект на Земле, давайте так говорить. И начало вот этого пятого когнитивного перехода – не просто ещё один (хотя, вы видите, за всю историю человечества, за сотни тысяч лет всего было пять самых важных переходов)…это последний переход! Он именно специфический, потому что не поменял способы коммуникации, получения информации и превращения её в цифровую, а позволил появиться второму носителю интеллекта.

По сути, вот это сплетение двух носителей (мы сейчас все более и более сплетаемся со вторым носителем интеллекта) формирует новый тип культуры. То есть на протяжении четырёх предыдущих когнитивных переходов была известна «культура обмена мыслями» или «обмена смыслами» при помощи символов, так это классифицировал Мерлин Дональд, известный канадский нейроантрополог и когнитивист. Но как только появился второй носитель интеллекта, то сменился и тип культуры. Началось то, что я назвал несколько лет назад «алгокогнитивной культурой», от слова «алгоритмы», то есть стали использоваться когнитивные возможности узнавания мира, коммуникации, выживания в мире. И вот эту алгокогнитивную культуру уже можно считать гибридной культурой людей и алгоритмов.

А дальше всё будущее видится именно как развитие этой культуры. Она будет менять самих людей, начнет превращать их в «инфоргов» – это термин Лучано Флориди, известнейшего современного философа и начинателя философии информации. Он в Болонском университете читает очень интересные лекции на тему того, о чём мы сейчас говорим. Вот это и есть новый тип культуры изменения носителей, их гибридизации. Скорее всего, произойдёт нечто аналогичное тому, что в своё время произошло между хомосапиенсами  и неандертальцами. Но только в данном случае роль неандертальцев будет у людей. И постепенно они исчезнут, оставив следующему гибридному носителю интеллекта часть своих генов.

Как-то даже грустно представлять такое будущее…

Почему же грустно? Что ж здесь грустить? Я понимаю, хотелось бы, чтобы люди оставались людьми. Но мы меняемся! В данном случае меняется то, что Сесилия Хейес, очень известный английский когнитивист, называет «когнитивные гаджеты» – это те самые, грубо говоря, гаджеты в мозге, с которыми мы подсоединяемся к социокогнитивным сетям. И да, они у нас изменяются, но такое происходило раньше.

Вы даже не представляете, насколько… Самый простой пример: тридцать лет назад любой человек вашего возраста в голове помнил до сотни номеров телефонов своих знакомых, родителей, коллег и так далее. Сейчас, если вы попытаетесь провести короткое исследование, сколько телефонов помнят ваши знакомые, то обнаружите, что и десятка не наберется. Этот когнитивный гаджет уже деградирует. А представьте себе, ведь несколько сотен лет назад люди передавали из уст в уста между поколениями длиннейшие тексты, если их написать – это сотни страниц. А что с нашим когнитивным гаджетом устного счета? Вы думаете, сейчас среди молодых людей много тех, кто сможет быстро поделить шестизначное число на трехзначное без помощи компьютера, телефона, чего угодно? Вот так, на бумажке, в столбик, как раньше…

Так что все меняется! Просто сейчас за счет того, что появились вторые носители интеллекта, более радикально происходит изменение наших когнитивных гаджетов. Гибридные инфорги – а это те, кто проводит в сети больше времени, чем во сне, – это просто люди с новым типом когнитивных гаджетов, по-другому встраивающиеся в сети. И сети становятся немного другими. Хотя нам к этому не привыкать: в тех сетях, обычных, не социокогнитивных, а в знакомых нам – социальных, типа Фейсбука, поверьте, там уже помимо людей алгоритмы шуруют, участвуют в процессе – будь здоров! Алгоритмы решают, какую информацию вы видите, с кем общаетесь. Так что все уже началось, все идет!

А как отличается восприятие и использование ИИ в разных странах? Все ли мы находимся на одном этапе?

Ну нет, разные страны находятся сильно на разных этапах в освоении и разработке технологий. И уровень США, Китая очень далек от уровня стран типа, например, России. А в зависимости, скажем так, от социально-политического режима внутри страны отношение к технологиям ИИ тоже сильно отличается. Роль государства, регулирующих органов везде совершенно разная.

Если говорить схематично, то существует три подхода. Это очень условное деление. Так, например, в Китае пытаются превратить технологии в основной инструмент контроля и управления обществом. Для этого создаются очень серьезные законодательные нормы, рычаги регулирования. Там есть очень много полезных для человека и, кажется, трезвых предложений, связанных с защитой личности, personality, но, увы, общий вектор всех законов направлен на то, чтобы держать технологии под контролем власти.

Второе направление наиболее ярко выраженно в США, которые являются лидерами в области ИИ. Это попытка традиционного совмещения рыночных преимуществ и (в кавычках беру слова!) «демократического контроля» над технологиями. Так, бизнесу позволяют определять, куда двигаться, определять направление и финансирование основных разработок.

Что могу сказать? Здесь в итоге подход на самом деле сильно смахивает на китайский. С той разницей, что он отдает приоритет контролю не со стороны власти – контролируют большие корпорации. И такие компании, как Майкрософт, Амазон, подгребают технологии под себя. Только в первом случае новая функция «Большого Брата», который контролирует все в инфосети, состоит в том, чтобы определять, как люди получают знания, обретают мировоззрение, как между собой общаются и коллаборируются. А в американском варианте – все то же самое под контролем корпораций. Учитывать приходится интересы и мотивации, и они разные у компартии Китая, КПК и, например, у Facebook с Google. Поэтому различия – именно в разнице приоритетов главных акторов, вершителей.

Ну и третий подход. Россия в этом смысле хороший пример:  это некий гибрид между первым и вторым вариантами. Здесь все определяют корпорации, но корпорации находятся под контролем власти. В итоге получается – у руля стоят Сбербанк с ВКонтакте, а не Facebook с Google.

Сергей Карелов: люди исчезнут, оставив следующему носителю интеллекта часть своих генов | London Cult.
Photo: Sdecoret / Shutterstock

К слову, об американских корпорациях… Сообщалось, что Microsoft собирает команду по разработке малых языковых моделей SLM, которые похожи на LLM, такие как GPT-4 и OpenAI. Как вы видите развитие конкуренции и рынка в сфере ИИ в ближайшие годы?

Тут более или менее прогнозируемо, потому что главным фактором успеха технологий, начиная с прошлого года, является масштабирование моделей. А это значит, все упирается в наличие большого hardware (аппаратного обеспечения), больших графических процессоров и карт для реализации очередной модели. Счет уже идет на десятки тысяч таких процессоров, а это миллионы, десятки и сотни миллионов долларов.

Таким образом, у кого окажется больше «железа», назовем это «специальным железом» для дальнейшего совершенствования и развития моделей, тот и будет впереди. Для этого нужны две вещи: много-много денег и возможность получить это «железо» в свои руки. Так что разница между Россией, США и Китаем заключается в том, что у США есть и много-много денег, и возможность приобрести, скажем, у компании NVIDIA «железо», которая его производит, зарабатывая триллионы долларов. У Китая тоже денег много-много, но возможности купить весьма ограничены, так как экспортное законодательство США не позволяет поставлять в Китай 90% нужного оборудования для развития ИИ, так они сдерживают конкуренцию. Ну а у России нет ни одного, ни другого, потому что, с одной стороны, экспорт не поставляется, а с другой – «денег нет, но вы держитесь».

И как вы видите сценарий развития этого рынка для России в будущем?

Ну, послушайте, что тут можно видеть! Я еще раз повторюсь: денег соответствующих нет, потому что здесь речь идет о миллиардах. Собственных производственных мощностей нет. И даже если будет поставлена задача (а она не поставлена!) для развития производства подобного оборудования, которое нужно для, например, тех же NVIDIA-моделей, потребуется не только много десятков миллиардов долларов, но и 10-15 лет. Так что говорить о текущей перспективе?

Вы частично коснулись темы контроля ИИ… А еще в своем ТГ-канале писали, что современный глобальный ландшафт волатилен и его ответвления все сложнее отслеживать, но правительства и бизнес разных стран сейчас предпринимают попытки взять все под контроль. Как вы считаете, это вообще возможно?

До тех пор, пока в мире землян существует государство, которое обладает уникальной силой, располагает финансовыми и силовыми ресурсами… Если что-то оно захочет взять под контроль, то возьмет. И поскольку сейчас, в 2024-м году точно, все государства поняли, что технологии ИИ – самые важные, важнее атомных, квантовых технологий, то контроль становится задачей номер один.

Другой вопрос, что взять под контроль ИИ очень трудно. Сейчас уже появляется все больше моделей, масштаб которых позволяет запускать их в домашних условиях, они просто пересылаются, копируются. Это означает, что сдержать развитие ИИ становится примерно так же сложно, как сдержать ядерное оружие, если бы оно распространялось просто, как гранаты лимонки. Достаточно иметь сколько-то баксов, и любой желающий достанет гранату на рынке.

Поэтому, с одной стороны, государства пытаются брать все под контроль –  и США, и Китай, и Россия, и Европа –  путем регулирования законодательств. Вот в Штатах новая инициатива введена у торговой комиссии – расследование инвестиций и партнерства компаний в области ИИ. Пытаются закручивать гайки всячески! Но, с другой стороны, не факт, что это удастся.

Сергей Карелов: люди исчезнут, оставив следующему носителю интеллекта часть своих генов | London Cult.
Фото: Abdu Ezxurghi / Shutterstock

Что в итоге должны в этой связи понять, а может быть, и предпринять обычные простые люди, в чем наша задача?

Я говорил, что эволюция не останавливается. И каждый из нас должен понимать: в новый тип культуры общества входит новый тип человека. Поэтому в первую очередь надо думать, конечно, о детях.

И учиться пользоваться ИИ! Человек, который сегодня не умеет работать с моделями типа ChatGPT, будет чувствовать себя как 20 лет назад. Помните, в объявлениях писали: требуется человек со знанием компьютера. Неважно, бухгалтером он идет работать, в юридическую консультацию или инженером. Буквально через несколько лет, если человек не будет в совершенстве обладать знаниями и умениями обращаться с этими новыми инструментами, он будет неконкурентоспособен.

А что касается детей… Вот это очень серьезно. Потому что дети уже довольно сильно будут отличаться от предыдущих поколений. И нужно это понимать. Я напомню из «Гадких лебедей» братьев Стругацких: там дети ушли следом за «мокрецами». Вот чтобы наши дети не ушли от нас, по крайней мере, нынешние поколения (что будет через еще 10-15 лет неизвестно, они, может, уйдут туда, в новые гибридные развитые виды «инфоргов»), если мы хотим удержать их, иметь возможность хоть о чем-то с ними общаться и понимать друг друга, нужно очень внимательно смотреть на то, как они меняются. И пытаться адаптироваться к изменениям детей.

Вы можете порекомендовать какие-нибудь ресурсы для обычных людей, которые хотят больше понять про ИИ: книги, статьи, исследования?

Дело в том, что я не могу этого рекомендовать. Потому как примерно каждую неделю читаю по полтора-два десятка книг, 200-300 статьей профильных. Я человек, пьющий из «брандспойта». И говорить о том, что существуют какие-то ресурсы, в которых можно, почитав, получить подобную информацию… Таких ресурсов просто нет! Собственно говоря, из-за этого мне пришлось заниматься тем, чем я занимаюсь. А делаю я непонятно что: интегрирую информацию и пытаюсь выдавать то, что субъективно мне видится наиболее важным. И дальше уже берите любой мой пост и начинайте задавать СhatGPT вопросы.

Каков вектор ваших исследований, какие у вас планы?

Сейчас я в основном работаю по своим контактам, старым связям с людьми, с которыми работал в IBM, Silicon Graphics и Cray Research. И поскольку я уже человек немолодой, скажем очень мягко, то единственное, на что у меня хватает ресурса, так это держать руку на пульсе наиболее перспективных исследований, которые ведутся в нескольких десятках лабораторий. И я пытаюсь из этой информации и проектов, в которых сам участвую, формировать некое видение понятий, о которых говорил: связанных с пятым когнитивным фазовым переходом алгокогнитивной культуры, «инфоргами» и гибриднохимерными типами нового носителя культуры, которые сейчас играют и будут играть все большую роль в жизни людей.

Читайте также