Специалист по искусственному интеллекту Сергей Марков: «С технологиями человек сможет позволить себе быть добрым»

Сергей Марков — специалист по искусственному интеллекту и создатель шахматной программы SmarThink. На лектории «Будущее на пороге» инициативной группы «Думай» Марков и другие популяризаторы науки рассказывали о технологиях на стыке живой и неживой материй: об интерфейсах мозг — компьютер, переносе человеческого сознания на жесткий диск и этике андроидов. «Инде» поговорил с Марковым о том, что такое машинное обучение, как изменятся отношения человека с технологиями в будущем и почему мы сами — искусственные создания.

Что ученые понимают под искусственным интеллектом (далее ИИ. — Прим. «Инде»)?

Искусственный интеллект — система, обеспечивающая автоматизацию решения интеллектуальной задачи. Так как это слишком широкое определение, в науке принято разделять ИИ на два вида: прикладной, или слабый ИИ, который решает прикладные интеллектуальные задачи (например игра с человеком в шахматы или распознавание лица на фотографиях), и некий гипотетический универсальный ИИ, который сможет решать самый широкий спектр интеллектуальных задач, в идеале — любую задачу, которую может решать человек, — это так называемый Artificial General Intelligence. Для решения конкретных задач в ИИ закладывают различные методы и инструменты. Некоторые из них похожи на человеческие — например нейронные сети, другие нет — например метод опорных векторов. Он используется в случаях, когда необходимо на основе каких-то данных свести понятия к определенному классу или на основе каких-то величин спрогнозировать определенное событие. Например, в банковской сфере прикладной ИИ, использующий те или иные алгоритмы машинного обучения, может по имеющимся данным о клиенте ИИ рассчитать вероятность возвращения долга.

Под определение «системы, обеспечивающей автоматизацию решения интеллектуальной задачи» подходит самый широкий спектр вещей. Даже калькулятор, не так ли?

Сложно провести четкую грань. Множество виды деятельности имеют интеллектуальную составляющую, потому что люди используют интеллект и для решения простых задач. Если для решения такой задачи сделать машину, то формально эта машина будет ИИ. Поэтому калькулятор является простым ИИ, так как счет — самая настоящая интеллектуальная задача. Но публику интересует все, что связано с универсальным ИИ, который мог бы стать отдельной личностью. Да, об этом много пишут фантасты, но, с другой стороны, у ученых тоже есть определенные наработки в этом направлении.

Какие, например?

При создании сложного ИИ ученые,в основном, используют пока бионический подход. В природе уже существует работающий аналог ИИ — это человеческий мозг. Поэтому логичнее всего попытаться воссоздать его. Самый известный проект в этом направлении — Blue Brain. Компания IBM начала этот проект в 2005 году и к 2023 году планирует получить работающую модель человеческого мозга.

Что в контексте ИИ понимается под интеллектом?

Дать формальное определение интеллекту непросто. Есть разные подходы. По одной из теорий, интеллект определяется через многообразие возможных реакций системы на определенную задачу. Система будет интеллектуальной, если она имеет множество способов реакции на события окружающего мира, и способна выбирать наилучший способ реакции в зависимости от обстоятельств решений для одной задачи. К примеру, если шахматная программа будет делать первые попавшиеся ходы, то она будет не очень умной. Если же она будет отличать хороший ход от плохого и применять это знание в конкретной игровой ситуации — то на лицо признаки интеллекта. Но это только один из подходов к определению интеллекта.

В научно-популярных статьях и просто в повседневности часто сопоставляют работу мозга и компьютера. Насколько это корректно?

С одной стороны, многие задачи, которые мы решаем с помощью компьютера, мы веками решали при помощи мозга. Это похожие устройства с точки зрения выполняемых функций — обе системы обрабатывают информацию. В этом смысле мозг — это вычислительное устройство. Но современные ЭВМ по своей архитектуре существенно отличаются от мозга, хотя есть попытки создать ЭВМ, которые в той или иной мере воспроизводят устройство мозга, — это так называемые нейроморфические процессоры. Самая известная разработка — TrueNorth от компании IВМ.

Долгое время нейронными сетями занимались две не зависимые друг от друга группы ученых. С одной стороны, биологи, которые изучали физиологию мозга, с другой стороны, специалисты сomputer science, которых мозг интересовал как устройство для обработки информации. Алан Ходжкин и Эндрю Хаксли разработали биологическую модель работы нейрона, за что в 1963 году получили Нобелевскую премию. МакКаллок и Питтс, в свою очередь, разработали модель нейрона как суммирующей системы по передаче сигналов. Она не похожа на то, как работает мозг, но именно эта модель лежит в основе нынешнего прикладного ИИ, который успешно обыгрывает человека в го, распознает текст и лица. Биологическая линия также не осталась на месте: наработки в этой сфере используются в импульсных нейронных сетях. Сейчас происходит сближение этих направлений — мы можем создать модели, работающие сходным с мозгом образом.

Когда вы говорите о шахматных программах, всегда упоминаете о том, что ИИ в шахматах не занимается простым перебором возможных ходов. Как они работают?

Это важный момент: люди думают, что программа их обыгрывает только из-за высокой скорости обработки информации. Если бы это было так, то это была бы глупая программа. Современным ЭВМ по сложности и скорости до сих пор далеко до возможностей мозга. В мозге человека 150 триллионов синапсов, каждый синапс — это 1000 молекулярных триггеров-переключателей, то есть в итоге — несколько квадриллионов триггеров. Самый мощный компьютер имеет всего 10 миллиардов триггеров. Если бы программа играла так примитивно, как человек думает, то она никогда бы не выиграла. Вариантов ходов в шахматах во много раз больше, чем количество атомов во Вселенной, — перебрать все ходы невозможно. Если заставить играть друг против друга современную шахматную программу и программу десятилетней давности, то разница будет колоссальной — игра пойдет в одни ворота. Прогресс происходит за счет совершенствования алгоритмов и методов выбора хода. Машина использует такие алгоритмы, которые не использует человек. В этом и разница.

Каждое сообщение в СМИ о том, что очередная шахматная программа обыграла гроссмейстера, становится причиной тревог и страхов человека. Имеет ли этот страх под собой почву?

Я не понимаю этого. Атлеты не ужасаются появлению кранов, поднимающих огромные грузы. Для меня такие новости — причина для гордости. Это уникальное научное и инженерное достижение, которое приведет ко все большей автоматизации жизни. Чем больше будет вокруг машин, тем больше у нас будет времени для творчества, науки и саморазвития.

Очевидно, что в основе этого беспокойства — сюжет о восстании машин. Как вы думаете, почему люди думают, что высокий интеллект становится причиной агрессии и более умный организм обязательно попытается нас поработить?

Это странная логика. Из истории мы видим обратное: чем больше интеллект, тем меньше агрессии. Мы не видим группы распоясавшихся ученых, дерущихся на улице с футбольными фанатами. Видимо, это история о том, как люди перекладывают свои качества на машины. Они боятся, что машины, превосходящие их в интеллекте, будут обладать теми чертами, которые люди боятся увидеть друг в друге, — жестокостью, агрессией, стремлением к доминированию. Я не считаю, что нас ждет какая-то опасность. Человек в силу своего технологического превосходства может легко истребить всех животных, но он этого не делает — наоборот, принимает меры по сохранению видов и ратует за гуманизацию отношений с природой. Машины, которые будут во всем нас превосходить, будут еще гуманнее нас. С другой стороны, я думаю, прогресс пойдет не по пути создания автономного ИИ, а в сторону синтеза человека и ИИ. Я говорю о нейроинтерфейсах — машины станут частью нас самих. В будущем будет сложно понять, где заканчивается человек и начинается машина.

Как в таком случае изменится содержание понятия человека?

Мы в плену иллюзий насчет автономности и самостоятельности человека. К примеру, в нас полно автономных бактерий, без которых нам не выжить. Поэтому сегодня рациональнее определять человека как искусственное создание. Мы сами себя создали при помощи технологий. Научившись варить твердые зерна, человек повернул свою эволюцию в новую сторону. Мы дети своих технологий и чем дальше, тем сильнее мы себя модифицируем.

Что должно произойти, чтобы человек перестал относиться к технологиям как к орудиям?

Я верю в силу науки и просвещения и думаю, что люди со временем сами станут сознательнее относиться к окружающим, и в том числе к технологиям. Но для этого необходимы перестройка и гуманизация общества в целом. Вместе с тем изменение отношения к технологиям начнется с процессом их очеловечивания. И это уже происходит.

Отношения между человеком и машиной будут похожи на отношения людей друг с другом? В этой связи, вам не кажется, что люди жестоки к Siri?

Есть исследование, вскрывающее то, что многие люди действительно флиртуют с Siri. Это простой пример очеловечивания технологии. Когда у технологии появляется предпосылка к сложности, люди начинают относиться к ней практически как к равной. Людям не приходит в голову обижаться на стул, а на Siri могут накричать, если она не справляется с поиском. Поэтому нам вообще не помешало бы стать добрее — в том числе по отношению к машинам. Потребительские технологии пойдут по пути дальнейшего очеловечивания, чтобы минимизировать стресс людей от присутствия технологий. Это приведет к расширению границ человеческой этики и распространению ее и на машины тоже.

Какую роль в этом процессе сыграет искусственное сознание?

Нам пока далеко до создания машин с сознанием. Но мы предполагаем, что на каком-то этапе оно может возникнуть — и произойдет это по тому же сценарию, что и у людей. По наиболее распространенной теории, возникновение самосознания у человека — это побочный эффект социальности. Чтобы жить в социуме, нужно уметь прогнозировать поведение других. Для этого в мозге появились специальные структуры — зеркальные нейроны. С их появлением случилось своеобразное замыкание — человек себя самого научился воспринимать как другого. Это и стало стартом сознания. Если нам понадобятся машины, которые будут решать различные задачи в социуме или взаимодействовать друг с другом, то подобное может случиться и с ними. Но, конечно же, машина изначально должна быть адаптивной.

Как же человеку жить с машиной, которая будет страдать?

Вопрос хороший, хоть и смешной. Мы создаем машины, чтобы избавить себя от сложной и неприятной работы, но где гарантия, что машинам будет нравиться выполнять их? На этот счет есть много сценариев у фантастов. У Дугласа Адамса был персонаж — генетически выведенный организм, мечтавший быть съеденным. Он очень расстраивался, потому что никто его не ел. Теоретически, по этой аналогии можно заложить в машину такую систему вознаграждения, которая будет срабатывать при выполнении нужной нам задачи. Но мы стоим только на пороге эры машин с сознанием и все это догадки. Возможно, как я уже говорил, прогресс пойдет по пути сращивания человека и машины.

Будет ли сознание машины аналогично сознанию человека?

В этом случае антропоцентризм не обязателен. Человеческий мозг — продукт сложного эволюционного компромисса. Он не мог увеличиваться бесконечно, потому что большой мозг требует много энергии, и к тому же сложно родить ребенка с большим черепом. При создании машины мы лишены этих ограничений и, теоретически, можем сделать очень большой мозг. Каким станут разум и сознание вне этих ограничений? Будет ли ИИ понимать добро так же, как и мы? Вопрос не праздный. Сейчас широко тестируются программы искусственного водителя. Несмотря на то что такие машины уже сейчас водят лучше, чем люди, все же есть риск возникновения ДТП. Как поведет себя машина, если на дорогу неожиданно выбегут дети? В такой ИИ закладывают модели минимизации ущерба. Может случиться так, что в заданной ситуации минимальным ущербом будет убийство водителя, и машина направится в столб. Это сложная этическая проблема, единого решения которой нет. Машина Tesla, к примеру, ездит только если руки водителя находятся на руле, то есть разработчики перекладывают ответственность на человека. Естественно, это неидеальное решение. Вместе с тем не нужно забывать, что у автомобиля есть и другие устройства безопасности (ремни и подушки безопасности), поэтому столкновение далеко не всегда ведет к смерти водителя. Но, думаю, это не особенно воодушевит потенциальных покупателей. К счастью, пока задачи машинам формулируем мы, и я думаю, что и дальше искусственный интеллект будет надстройкой к нашему, поэтому и этика у них будет человеческой.

Если мы признаем субъектность машин, не должны ли мы признать ее и за животными? Учитывая, что, по последним данным, высшие млекопитающие ведут сложную «интеллектуальную» деятельность?

Готовность соблюдать права животных — это также вопрос компромисса. У людей есть представления о правах и этичном отношении к животным. Вместе с тем есть цена, которую люди готовы платить для обеспечения этих прав. Готовы ли мы отказаться от мяса ради прав животных? В глобальном смысле нет, потому что наши технологии не позволяют полностью заменить мясо. Если бы мы умели дешево производить мясо без убийства, то мы бы это делали. В этом я вижу связь прогресса и гуманизма — с новыми технологиями мы сможем позволить себе быть добрее.

Фото: Антон Малышев