Кривое зеркало интеллекта Существует ли искусственный интеллект? Насколько он приближен к человеческому? Какие цели ставит перед собой? Стоит ли опасаться нейротехнологий? Подробно, с юмором, а где-то и нескрываемым скепсисом на множество подобных вопросов ответил Константин Воронцов, доктор физико-математических наук, профессор РАН, зав. кафедрой интеллектуальных систем МФТИ, зав. кафедрой математических методов прогнозирования МГУ, руководитель лаборатории машинного обучения и семантического анализа Института ИИ МГУ... Фактически это была высокопрофессиональная лекция о технологических основах, возможностях и мифах, связываемых с понятием искусственный интеллект. Традиционно модератором встречи была Марина Аствацатурян, научный журналист, кандидат биологических наук.
Выступление стало логическим продолжением рассказанного в рамках «Точки зрения» Константином Анохиным, нейробиологом, директором Института перспективных исследований мозга МГУ. Академик затрагивал тему широких программ, касающихся создания искусственного мозга человека в компьютере. Воронцов свой рассказ об истории ИИ также начал с нейрона, как основы всякой математической модели.
Человечество научилось нейроны комбинировать, составлять из них сложные архитектуры. Никто не отрицает, что биологический нейрон устроен гораздо сложнее искусственного. Поначалу, в 1996 году, человечество забавляло, что компьютер обыграл чемпиона мира по шахматам, а в 2015 выиграл у профессионала го. Теперь, благодаря усилиям ученых и разработке алгоритмов обучения, нейронная сеть, машинный интеллект стали использовать в самых разных практических целях: в задачах оптимизации, прогнозирования, для распознавания образов, в области управления. Бизнес успешно адаптирует технологии машинного интеллекта.
В наши дни происходит прорыв в области больших языковых моделей, появился ChatGPT. Модель, обучившаяся на терабайтах текстов, приобрела способности, которым ее не обучали. Прорыв настолько революционный, что специалисты заявляют о появлении «общего искусственного интеллекта». Он решает задачи, генерирует сайты. Разработаны технологии идентификации и верификации человека по лицу. Медицина, промышленность, строительство, банковской скоринг… Уже трудно назвать отрасли, где не задействован ИИ. Власти внедряют его в экономику, в сферу госуправления. Новые технологии меняют мир.
Все это устраивает человечество, если бы оно не обнаружило, что искусственный интеллект – это уже не просто технология. Выйдя за рамки применения в машинном мире, он становится активным участником социальных коммуникаций в мире людей.
Заметное оживление возникло в аудитории, когда эксперт перешел к особой части своего спича. Константин Валентинович продемонстрировал удивительный скепсис в отношении пиетета, который испытывают некоторые алармисты, утверждающие, что «построен новый вид интеллекта».
«Ничего подобного. Это всего лишь имитация нашего естественного, биологического интеллекта. Это скорее мечта, связанная с желанием человека уподобиться Богу, создав машинный интеллект по подобию человеческого. По образному выражению Воронцова, ИИ – это кривое зеркало, в которое посмотрелось человечество. Оно отражает всю существующую в интернете информацию, со всей демагогией, флудом, графоманией, растворенными в нем».
Конечно, искусственный интеллект сильнее и умнее человека – и всегда будет выигрывать у него и в разные «шахматы». Главная опасность в том, что человек наделяет чат-бота несуществующей субъектностью. И тем самым перекладывает на него свою ответственность. А машина никакой ответственности не несет. Чат-боты опасны уже тем, что научились вызывать доверие, манипулировать людьми, правдоподобно лгать.
Что делать с этими угрозами? Людям вообще свойственно бояться того, в чем они плохо разбираются. Гость развенчал несколько мифов относительно ИИ. Прежде всего, опасение, что он может лишить людей работы. «Люди всегда найдут себе дело. Новые технологии, возникая, всегда создают новые профессии. Есть еще одна причина, по которой человечество без работы не останется: оно все время создает себе опасности, а потом их регламентирует».
В чем-то эксперт был оптимистичен, в чем-то проявлял пессимизм. Действительно, при таком многопрофильном «помощнике», не произойдет ли деградации естественного интеллекта? Не перестанут ли люди заниматься делами правильными, полезными, душеполезными? Избежать этого, полагает эксперт, можно лишь правильным воспитанием.
Опасение вызывают непредвиденные навыки, которые могут быть «зашиты» в модель. Цель не в том, чтобы воспроизвести «по образу и подобию» нечто человеческое, а в целеполагании. «Мы, как биологический вид, эволюционируем сотни миллионов лет, приспосабливаемся и выживаем на этой планете. Выживание было, есть и будет нашей основной биологической и цивилизационной целью. Сохранение Земли, ее биосферы, самого человечества. Машине в этом многозначном процессе должна отводиться прагматичная роль делать наше существование комфортнее, способствовать нашему выживанию, брать на себя всю рутину. Оставляя за человеком целеполагание и ответственное принятие решений.
Куда большее опасение вызывает у Воронцова возможность использования машинного интеллекта для узурпации власти над миром. «Не технологий надо бояться, а людей, их целей, того, какая идеология их направляет. Какие образы будущего вдохновляют ученых и политиков, элиту общества».
Помимо базового занятия, машинного обучения, специалист всерьез разрабатывает и проповедует гуманитарную, цивилизационную идеологию – взамен чисто технократического и индивидуалистического подхода. Возможно, это будет темой следующей встречи в клубном сообществе.
Вопросы «из зала» демонстрировали не только интерес к тому, о чем говорил гость, но и погруженность в тематику задававших их. Так Роберт Зиновьев поинтересовался российскими разработками LegalTech. Это разнообразные платформы, программы, продукты и инструменты, применимые в юридической деятельности. Сергей Калашников завел разговор о разнице самой природы работы человеческого и искусственного интеллекта. У человека – логика, смысл, целеполагание. У ИИ – аналогия.
Главное – был ответ – надо определиться с нашим человеческим целеполаганием. Если мы строим человеческую цивилизацию, значит, мы хотим автоматизацию, которая освободит наше время, руки и мозги, даст свободу творчества. Это скорее вопрос политический, к элитам – куда они ведут человечество, во что они решили вкладывать свои триллионы.
Дмитрий Городецкий поинтересовался, какому количеству полсотни факультетов МГУ пригоден «блестящий сегодняшний ликбез» Воронцова? Ответ был односложный и оптимистичный – всем. А вот будущее российской науки большого оптимизма не вызывает. Молодых и относительно молодых людей, способных перенять опыт, в отрасли, по мнению эксперта, осталось около пяти процентов. «За 90-е и нулевые мы убили нашу электронную промышленность. Проблема в оборудовании собственного производства, позволяющем строить большие языковые модели. Примерные числа: на Западе их 400, на Востоке, в Китае – 200. В России – четыре. Не хватает ресурсов».
Андрей Нечаев попытался выяснить – может ли набор данных, используемых машиной для верификации, предопределить ответ?
И еще более оживленное обсуждение темы пошло во время неформальной части встречи. О том, что нужно делать, чтобы не пойти по пути деградации естественного интеллекта. Стоит ли отнимать гаджеты у детей. О практическом применении ИИ. Например, Елена Юлова, адвокат, делилась опытом, как она использует в своей жизни ИИ для работы, для поисковых целей и для развлечений. «Сегодняшняя встреча мне помогла понять, что это набор алгоритмов, там нет ничего сакрального, ничего устрашающего. Чем человек сам нашпигует, чему научит эти алгоритмы, то и получит. Наверное, этот правильно – не ИИ, а имитация интеллекта».
Каждый рассуждал со своей точки зрения. Но всех объединяло одно пожелание: как бы ни развивался интеллект компьютера и человека, главное, чтобы их интересы совпадали, а не шли вразрез друг другу. И как тут не процитировать Стивена Хокинга: «Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски».
Текст; Виктория Чеботарева
Фото: Артем Друзь
ЛЮДИ И МНЕНИЯ
Владимир ШУМЕЙКО:
«Мне и раньше было понятно, что искусственного, машинного интеллекта быть не может. Как известно, интеллект, или разум, ум – это свойство психики человека познавать мир на основе своих ощущений, памяти, восприятия, мышления и т.д. Лекция Воронцова это подтвердила. Так называемый ИИ – это набор технологий, созданный человеком. Машина не может стать человеком. Хотелось бы отметить высокий уровень выступления Константина Вячеславовича, умение довольно просто говорить о сложном. Мне было понятно все, так как я кандидатскую защищал по специальности «Твердотельная электроника и интегральная схемотехника», включая спецоборудование, материалы и технологию. То есть я занимался изобретением того «железа», на котором работает Воронцов. По реакции всего зала было видно, что понятно было почти всем».
Сергей БАЛАГАНСКИЙ:
«Я считаю, что у нас в Клубе выступления приглашенных ученых, экспертов, начиная с Константина Анохина – с точки зрения интереса к темам, их актуальности – вышли на новый уровень. С каким вниманием сегодня все слушали Воронцова! Думаю, это очередной шаг в развитии клуба. Если мы продолжим приглашать таких специалистов, будет замечательно. Я обеими руками – за».
Нина МИРОНОВА:
«Меня порадовала сама лекция. Она не взбудоражила сознание, а наоборот, успокоила. Потому что «предупрежден – значит вооружен». Мы узнали, что все-таки человек задает параметры машине, а его биологическая нейросеть устроена гораздо сложнее. Кроме всего прочего, в психологии есть понятие эмоционального интеллекта. Человек – существо не просто мыслящее, а чувствующее. Я думаю, что прогресс не остановить, равно, как и не остановить некую духовность человеческую. И в этом балансе есть спасение».
Дмитрий ГОРОДЕЦКИЙ:
«Конечно, как всякое новомодное явление, ChatGPT сегодня затмил все и вся. Вот этот туман великолепный профессор Воронцов частично развеял. И, очень важно: в зале были представители различных дисциплин, искусств, направлений, специальностей и всем им, по-моему, было равно интересно».
Вячеслав ПЕЧНИКОВ:
«Как нам сегодня сказал профессор Воронцов: все, что мы называли искусственным интеллектом, оказалось имитацией интеллекта. Теперь мы можем жить спокойно – до следующего этапа, пока ученые не научат этот «искусственный интеллект» логически мыслить».
