Русский | English   поискrss RSS-лента

Главная  → Галерея славы  → Отечественные ученые и инженеры  → Нариньяни Александр Семенович  → ИИ: философский камень или камень преткновения?

ИИ: философский камень или камень преткновения?

Искусственный интеллект: мы  до сих пор никак не договоримся, что к этой области относится, в чем её задачи, каковы ожидаемые результаты, когда и как мы надеемся их получить, как они повлияют на наше будущее? В докладе сделана попытка обсудить эти вопросы.

Куда идём и что ищем?

Термин artificial intelligence родился в 1956 как отражение того «наивного оптимизма» начального периода, когда большинству энтузиастов казалось, что до ИИ почти рукой подать.

Однако пока с каждым десятилетием расстояние до цели только растёт. Полвека спустя становится ясно, что она не близка, – трудностей полно, а успехи не слишком впечатляют.

Очевиден и вывод, – область ИИ находится под влиянием “горного эффекта”: если расстояние до небольшой высоты определить несложно, то громадная вершина видна с такого удаления, что кажется гораздо меньше и ближе, чем на самом деле. Её масштаб начинаешь представлять лучше пройдя достаточно большую дистанцию и осознавая, что её видимые размеры почти не изменилась и оценка расстояния до неё на глаз осталась примерно той же.

Споры на тему, что относить к области Искусственного Интеллекта и каковы её задачи, ведутся до сих пор и конца им не видно. Тем более, что само понятие интеллект достаточно неоднозначно. Ясно только, что оно включает сочетание таких взаимосвязанных качеств, как: умение решать сложные творческие задачи; способность к обучению, обобщению и ана­логиям; обладание собственными органами восприятия (зрение, слух и т.п.). Этот список можно расширять, но суть в первом приближении он определяет.

Упомянутый «горный эффект» иллюстрирует ошибку оценки больших задач. Вспомним Колумба: он считал, что до Индии не так уж далеко, если правильно выбрать направление. На пределе возможностей он добрался до первых островов Америки и решил, что достиг цели. При том, что попал на противоположную сторону земного шара: между ним и Индией оставался огромный новый материк и самый большой океан.

На тему «куда и как двигаться» дискуссий в ИИ идёт не меньше, чем по поводу определения самого термина. Выделяются три основных подхода.

  1. «Нейро»: только по мере изучения как работает мозг, мы сможем воссоздавать его искусственно; именно этот подход ложится в основу нейрокибернетики и разных школ с той же приставкой.
  2. «Антропоморфизм»: мозг слишком сложен и до его познания далеко; реальный путь к ИИ – компьютерное моделирование поведения человека; в интеллектуальных технологиях чем больше “как у людей”, тем правильней.
  3. «Метафора колеса»: концепции 1 и 2, несмотря на их внешнюю естественность и логичность, для создания ИИ не только не обязательны, но во многих случаях и вредны – например, колеса в природе нет, но оно эффективнее способов передвижения живых организмов.
Обсуждение нейро подхода и антропоморфизма как общей концепции оставляем за рамками этого доклада, хотя их вред достаточно очевиден: если бы человечество исходило из них, то застряло бы не ближе каменного века, пытаясь вместо колеса имитировать ногу.

Область ИИ до сих пор выручал принцип «чёрного ящика»: не имеет значения, как модель устроена, главное, чтобы она обладала нужными способностями, т.е. решала сложные задачи не хуже – а по мере возможности и лучше – человека. Именно этот принцип ориентирует нас на использование знаний: разрабатывать технологии под знания, а не втискивать знания в прокрустово ложе достаточно пока примитивных технологий.

Теория знаний, которая стала в ИИ ключевой, развивается на пересечении философии, лингвистики, математики и психологии. При этом сам прогресс области ИИ зависит от продуктивного диалога этих наук, ориентирующегося как на решение проблем прикладного характера, так и на поиски ответов на вопросы самого высокого уровня – Что есть человек, Мир вокруг нас, Наши знания об этом мире и т.п.

Мега-проблемы: путь в лабиринте

По-настоящему большие проблемы, которые ставит перед собой человечество, можно разделить по сложности на несколько уровней:

Технические:как правило, значительные шаги в их развитии требуют не менее нескольких лет. Таких среди больших проблем подавляющее большинство. Одни решаются за счёт блестящих творческих находок, для других необходимы большие коллективные - обычно международные - усилия. Например, реактивная авиация или мобильная телефония.

Макро: масштаб шагов – несколько десятилетий. Сюда относятся почти все глобальные проблемы, включая такие как ближний космос, стратегические задачи энергетики, экологии, медицины и т.п.

Мега: время решения занимает несколько - часто много - поколений, например, полёты в далекий космос.

Сегодня до уровня мега поднимаются стратегические проблемы лишь немногих областей знаний, которые возглавляет прародительница всех наук – философия. Три тысячи лет она пытается сформулировать наиболее общие законы окружающего мира, т.е. определить всеобщее устройство всего. Недаром, мифический инструмент решения всех проблем назывался философским камнем.

Проблема ИИ – задача сравнимого масштаба, для решения которой человеку надо узнать всё о себе и научиться находить аналогичные технические решения. Т.о., философия и искусственный интеллект движутся навстречу друг другу: философия от самых общих законов к попыткам примерить их к частным случаям, а ИИ – от решения конкретных задач ко всё более широкому обобщению своих экспериментальных достижений.

Любая проблема - если она мега - необозрима в силу её масштаба. Например, для античного мира мега-проблемой было представление об Ойкумене, т.е. о мироздании и нашей планете. Сколько теорий и карт на эту тему было создано сочетанием недостаточного опыта и неограниченного воображения (слоны на черепахе, купол неба, край света и т.п.) и как далеки они были от той картины, которая считается истиной сегодня.

Поэтому мега-проблему можно сравнить с гигантским лабиринтом, в различных точках которого находятся группы исследователей, стремящихся найти свой путь к цели, хотя пространство лабиринта и сама эта цель понимается ими по-разному. В одном эти группы похожи: они не представляют себе размеры и сложность мега-проблемы, иначе никогда бы не решились пуститься в свой поход. И уж, по крайней мере, не тешили бы себя иллюзиями о том, что знают, в какую сторону двигаться.

Между разными группами есть подобие связи и возможность общения, хотя и ограниченная не слишком высокой их способностью к взаимопониманию. Это создает у них иллюзию единого поля видения и представления о общей карте «области исследования». Хотя я уверен, что эта карта - или множество её частных вариантов - не ближе сегодня к истине, чем упоминавшаяся карта Ойкумены древнего мира.

Замечательно отразил подобную ситуацию в лабиринте Виктор Пелевин в своей вышедшей недавно книге “Шлем Ужаса” [Пелевин 2005].

Две большие разницы

Именно на данном этапе развития области ИИ очень важно осознать, что в её тематическую структуру чем дальше, тем больше вносит неразбериху её название. Если на первых шагах оно помогло ей привлечь общий интерес, средства и научные силы, добиться первых результатов, то теперь оно приводит к понятийному винегрету, в котором очень мешают друг другу два достаточно далеких друг от друга уровня относимой к ИИ тематики:

Путаница этих двух уровней приводит к конфликту оценок положения дел в области ИИ. Одни говорят о стагнации, забывая о том, что долгосрочные проблемы в принципе не могут работать как фейерверк непрерывных успехов. Другие же ради пиара выдают весьма приземлённые успехи приложений за крупные победы в достижении фундаментальной цели.

Кроме того, этикетка ИИ привлекает массу людей не совсем “адекватных”, которые хотят заглянуть за три горизонта сразу, поскольку у них есть масса рецептов, как попасть туда сегодня.

Ясно, что прикладные работы в области ИИ – это развитие той самой интеллектуализации, которая необходима для любых сложных практических задач. Поэтому энтузиасты искусственного интеллекта берутся за всё что угодно и фронт приложений здесь быстро растёт, хотя, в основном, в ширину.

Что-то получается, но пока, чаще всего, не выше «тройки». Редко – на «четыре с минусом»: например, манипуляторы, зрение и анализ изображения, анализ и синтез речи, диагностика… В качестве серьёзного прорыва часто приводили шахматы, но и здесь результаты получены в основном не благодаря успешным творческим моделям, а по причине роста мощности компьютеров, способных теперь с помощью удачных эвристик перебирать варианты намного быстрее, чем их могут оценить чемпионы мира.

Типична история машинного перевода, возможности которого вначале переоценивали на порядки. Хотя любому переводчику известно, что для настоящего перевода мало словаря и грамматики. Переводится смысл, и поэтому не поняв, не переведёшь: тут нужны ещё знания о той области, к которой относится текст. А эти знания и есть ядро интеллектуализации, без которого ни на какие серьёзные успехи здесь рассчитывать не приходится.

Например, метеосводки машине переводить по силам: это область достаточно ограниченная и поэтому знания о ней можно формализовать и поместить в компьютер. А что-нибудь существенно более сложное пока не удается: чем шире и сложнее область, тем ниже падает качество. Во всяком случае, серьёзные успехи здесь остаются ещё по-прежнему за горизонтом.

Но тот факт, что стратегический ИИ ещё очень далеко, совсем не означает, что работы в нашей области теряют практический смысл. Совершенно ясно, что сегодня интеллектуализация является ключом развития как самих информационно-коммуникативных технологий (ИКТ), так и всех областей, в которых они активно используются. А поскольку масштабных прикладных разработок без теоретической базы не бывает, то и для интеллектуализации она нужна, но пока не на уровне фундаментальных исследований, а в качестве обоснования концепций и методик решения текущих практических задач.

Человек и машина

Спор на тему реально ли создание машины, которая превосходила бы возможности человеческого мышления со всеми его особенностями и нюансами, – вопрос скорее философский.

Научиться имитировать технически можно со временем всё что угодно и на любом уровне качества, никак не отличимом от возможностей человека. А следовательно, и превзойти его…

Но тут есть два тонких момента. Первый: будет ли эта «машина» машиной или уже нет? И второй: если сам человек будет стоять на месте и даже понемногу деградировать, как это происходит сейчас, то машине обойти среднего homo sapiens будет совсем не так сложно.

Вспомним тест Тьюринга: «компьютер можно считать разумным, если он способен заставить нас пове­рить, что мы имеем дело не с машиной, а с человеком». Когда наши системы смогут пройти этот тест? Смотря в какой области: в некоторых очень нескоро, в других – гораздо ближе, но тоже не завтра. Не плохо бы и уточнить с кем будем сравнивать: с интеллектуальной элитой или с любителем пива и телевизора? И кто будет сравнивать, – если другой любитель пива, то можно считать, что ИИ уже за углом.

Пока же наша цивилизация попадает во всё большую зависимость от ею же создаваемой техники, для которой всегда существует возможность ошибки или сбоя, способных оказаться губительными для человечества.

Приходится признать, что такова уж особенность нашей культуры: любой этап развития – это шаг к новому уровню технологии. Освоение каменных орудий и огня тоже имело не только плюсы, но и минусы. Прогресс – нечто вроде наркотика и чем дальше, тем зависимость от его даров только растёт.

Во многих отношениях люди уже сегодня зависят от технологий целиком и полностью. Мы всё больше врастаем в них, а они в нас. Отключается электричество в Нью-Йорке или Москве – начинается «конец света». Почему отключилось? Компьютер подвёл. Сегодня мы даже от не очень сложных своих компьютеров зависим иногда до беспомощности, а ведь у них интеллекта пока ещё несравнимо меньше даже чем у кошки. Если управление нашим будущим будет переходить к тому ИИ, который “за углом”, то о такой перспективе и думать страшно.

Добравшись до 21-го века мы выстроили глобальную цивилизацию, всё более похожую на минное поле. Новые технологии, порождаемые ею направо и налево в основном из чисто тактических соображений, вырастают до факторов апокалиптического масштаба, представляющего угрозу самому существованию человечества.

На этот самоубийственный вектор технического прогресса накладывается экспоненциально растущее разрушительное воздействие мировых СМИ, работающих как всеобщий галлюциноген. Эта умножающаяся подмена реальности виртуальностью способна понизить IQ Ноосферы до той степени, когда она не сможет справляться с быстро растущим разнообразием потенциально смертельных факторов и какой-то из них - а то и весь букет разом - сработает так, что дальше экспериментировать с цивилизацией будет некому и нечем.

Кто такой еHОМО?

Между тем уже видно, что дорога ведёт совсем не туда, куда собирались пятьдесят лет назад. За спорами о том, может ли машина мыслить, что такое интеллект (тем более искусственный), не завоюют ли нас машины и т.п., довольно неожиданно прямо на наших глазах стал формироваться третий участник “марафона в будущее”. Я назвал его еНОМО [Нариньяни 2005], поскольку он рождается в симбиозе сегодняшнего Homo Sapience с быстро совершенствующимися сверхвысокими технологиями.

В развитии этого симбиоза проступает совсем новая формация личности середины 21-го века: еНОМО во многих отношениях будет отличаться от нас - людей начала нынешнего века - настолько же, насколько наш современник отличен от крестьянина средних веков.

Очевидно, что эти еНОМО не появятся ниоткуда: можно сказать, что они уже среди нас, да и сами мы, пусть пока немного, но ими являемся. Те, кто сегодня активно пользуются Интернетом, мобильником, персоналкой, начинают, не осознавая того, превращаться в этот новый вид, который внешне сохраняет принадлежность к Homo, но качественно всё более отличается от него за счёт врастания в развивающуюся техногенную среду обитания.

Трансформация в еНОМО только начинается, но мы уже не те Homo, которыми были 20 лет назад, хотя и пока не такие, какими станем через 10 – 20 – 30 лет, т.е. ещё при жизни основной части нынешнего поколения. Техногенная среда будет для нового человека не только внешней, она проникнет внутрь его организма в виде чипов и микроустройств чуть ли не молекулярного размера.

Никаких сомнений, что возникновение «нового человека» – это неизбежный закономерный процесс, который может остановить сегодня разве что мировая катастрофа. Интеллектуализация является двигателем этого процесса, поскольку как раз и направлена на то, чтобы взаимодействие с полезным устройством сделать надёжным, простым и эффективным.

Нетрудно представить мобильник с парой кнопок, по которому первобытный человек в Андах (а такие ещё есть не только там) сможет говорить с соплеменником или спросить погоду на завтра или позвать на помощь. А от этого уровня до интереса к телесериалам один шаг... Правда, дальше в мировую культуру дорога намного круче и число ступеней на ней таково, что во многих случаях нужную интеллектуализацию проще накачать в спецустройство, чем в царя природы.

Мы у порога нового этапа цивилизации, касающегося как всего человечества, так и каждого человека, – его личности, тела, образа жизни и даже души. Между человеком и будущим ИИ формируется нечто среднее, своего рода кентавр. В такой перспективе кажется не столь уж важным, кто будет управлять огромным муравейником еНОМО: искусственный интеллект или VIP еНОМО из числа высшего руководства.

Поскольку проблема еНОМО – это не какое-то далёкое будущее, а наше весьма близкое завтра, а в чём-то даже и сегодня, мне кажется, что она заслуживает на нашей конференции специального широкого обсуждения.

Где нужен ИИ сейчас?

Пока до «окончательного» ИИ ещё весьма далеко, а еНОМО ещё не оформился, стоит выяснить, в каких областях наиболее востребованы методы интеллектуализации сегодня. Все их здесь, конечно, не перечислишь, но стоит привести несколько основных примеров.

Во всех перечисленных областях, а также во многих других приложениях ИИ ключевыми остаются (и, видимо, ещё долго будут) две доминанты интеллектуализации:

Заключение

Искусственный интеллект – термин наиболее fuzzy из всех обозначений общепринятых научных дисциплин. Что к этой области относится, в чем её задачи, каковы ожидаемые результаты и когда мы надеемся их получить – тема настолько масштабная, что в ограниченном объёме доклада её можно обсудить только пунктирно. Однако несколько вопросов требуют с моей точки зрения особого внимания и именно по ним стоит здесь подвести итог.

Эти составляющие не должны мешать друг другу постоянной чисто конъюнктурной “интерференцией”, а, напротив, продуктивно взаимодействовать как высокая теория и полевая практика. Естественно, практике ИИ, также как и прикладным направлениям любых других областей, нужна своя теория, но в данном случае это теория совсем другого уровня, который никак нельзя путать с уровнем мега-проблемы ИИ.

Это относится к обеим выделенным выше составляющим: отнесение стратегического уровня к классу мега означает, что здесь цель очень далека, а про результаты интеллектуализации “на тройку” уже достаточно говорилось выше.

Сто лет назад в “марафоне в будущее” конкурентов у человека не было. Через полвека в соревнование включился второй участник – ИИ. Сейчас, на очередном этапе, их стало три, поскольку к ним присоединился еще и еНОМО.

Ставки упираются в ключевой вопрос: можно ли утверждать, что изучать скрытые возможности человека теперь уже бессмысленно, поскольку их развитие подошло к своему пределу? Если это так, то у Homo в этом соревновании вряд ли есть шансы.

Но есть и противоположная точка зрения: мы знаем о себе пока очень мало и сменив текущее техногенное направление развития на homo-центрическое, мы могли бы совершить необходимый поворот в своём развитии и обрести новую перспективу, сохранив в еНОМО ведущую роль НОМО по отношению ко всему спектру возможностей, добавляемых приставкой «е».

Другими словами, все три участника марафона - включая и человека - ещё далеко не определены, а лишь приблизительно обозначены. К сожалению, наш электронный век пока работает на еНОМО, меньше на ИИ, и совсем в последнюю очередь на человека.

Несколько лет назад я опубликовал в Трудах КИИ’98 доклад [Нариньяни 1998], в котором высказал уверенность, что мы находимся на пороге «большого скачка», имея в виду прогресс не столько в мега-ИИ, сколько в интеллектуальных технологиях.

К такому скачку всё готово и он очень важен для ближайшего этапа развития ИКТ, объём и качество которых при этом резко возрастет. И самое главное, что он может быть сделан с активным участием России.

Я уверен в этом и сейчас. Однако, сегодня эта возможность не стала ближе, – сказывается общее положении дел во всей отечественной науке за последние 15 лет. И если ситуация не изменится ещё года два-три, то наш шанс стать лидером, или хотя бы участником, этого рывка останется навсегда упущенным.

***

Первый вариант этой статьи в версии для массового читателя опубликован в Независимой газете под заголовком “Очень искусственный интеллект” (№ 37 (3715) 22 февраля 2006, с.14), который редакция поставила без согласования со мной.

Список литературы

[Пелевин 2005] Виктор Пелевин. Шлем Ужаса. Креатифф о Тесее и Минотавре. Открытый Мир. М.2005.

[Нариньяни 2005]  А.С. Нариньяни. eHOMO – два в одном (Homo Sapience в ближайшей перспективе). В Сб. “Новое в искусственном интеллекте”, ИИнтеЛЛ, Москва 2005, сс. 260 - 274

[Нариньяни 1998] А.С. Нариньяни. Искусственный интеллект: стагнация или новая перспектива? КИИ’98 «Труды 6-ой национальной конференции по искусственному интеллекту», Пущино 1998, т.1

Помещена в музей с разрешения автора 10 Февраля 2019

Проект Эдуарда Пройдакова
© Совет Виртуального компьютерного музея, 1997 — 2019