Смена поколений в искусственном интеллекте

Сергей Бобровский

Многолетние исследования в сфере искусственного интеллекта (Artificial Intelligence, AI) не принесли заметного успеха даже при моделировании относительно простых живых существ. Тому есть свои причины: живые организмы составлены из множества разнотипных клеток и органов, демонстрирующих гибкое функционирование, и смоделировать подобные структуры на всех уровнях, включая макро, пока не удаётся. Кроме того, классические AI-модели, как правило, линейны, а “мыслящую” систему желательно составлять из иерархически организованных элементов, каждый из которых в свою очередь будет представлять сложный модуль с собственным интеллектом.

Поиск обходных путей, конечно, ведётся постоянно. Сегодня зарождается новое направление искусственного интеллекта, представители которого открещиваются от предшественников даже по форме, начиная с названия. Вместо термина AI выбран AGI (Artificial General Intelligence), и первая международная AGI-конференция запланирована на 2008 г. Сторонники AGI-подхода гораздо прагматичнее своих AI-коллег, а в качестве стратегической цели AGI-проектов названо ни много ни мало создание программ с интеллектом человека и даже выше. Однако за такой формальной технической целью скрывается грандиозная социальная концепция, имя которой — сингулярность.

Это понятие предложил основоположник современных компьютерных архитектур Джон фон Нейман, подразумевая под сингулярностью момент развития, после которого невозможно сформулировать более-менее достоверный прогноз будущих событий. В массовый обиход данный термин ввел известный фантаст Вернор Виндж. Сегодня под технической сингулярностью (или просто сингулярностью) понимают ситуацию, когда компьютеры сравняются с человеком по интеллекту, объединят через Сеть свои “мозги” в единый суперразум и поведут себя совершенно непредсказуемым образом. Предполагается, что последние годы перед достижением точки “непрогнозируемости” будут характеризоваться стремительно ускоряющимся темпом развития технологий.

Под давлением подобных тенденций сегодня заметно активизировались обсуждения социальной роли AI. В частности, американский институт будущего совместно с компаниями Ipsos-MORI и Outsights по заказу английского правительства проанализировали вероятные риски бурного развития науки и техники и сочли весьма вероятным, что через 20—50 лет роботы достигнут уровня мышления, схожего с человеческим. На искусственные аппараты придется распространить гражданские права и уравнять их с людьми.

Мнение классика

Профессор Марвин Минский, гуру AI, в подкасте на портале Dr. Dobb's высказал мнение, что в ближайшие десятилетия человечество сможет решить большинство ключевых проблем. В этом поможет AI — достаточно объединить в сети ПО с общим интеллектом примерно десяти миллиардов человек, и оно найдет нужные ответы путём логических рассуждений. Для этого, очевидно, требуется создать программу, интеллект которой приблизительно равен человеческому или линейно масштабируется к оному, и запустить её, скажем, в grid-сети.

Работы, конечно, предстоит много, так как наработки классического AI в основном представляют собой теоретические исследования, оторванные от практики, либо ориентированы на узкие прикладные сферы. Кроме того, эти наработки часто не имеют ничего общего с истинным моделированием мышления человека. Минский отмечает, что, например, современные шахматные программы хоть и играют на уровне чемпиона мира, но тем не менее “мыслят” совсем не так, как гроссмейстеры, — как и 50 лет назад, они занимаются полным перебором вариантов, а их сила растет главным образом за счёт увеличения вычислительных способностей современных компьютеров. Пожалуй, лучшей проверкой на интеллектуальность будет игра го, в которой глубокий перебор вариантов на практике невозможен, а значит, программе придётся думать “почеловечески”.

Причиной нынешних проблем в сфере AI Минский называет популярную одно время тенденцию создания “имитационного” AI, когда сложные процессы удавалось более-менее удовлетворительно сымитировать с помощью моделей с относительно небольшим числом правил и фактов в базе знаний. Подобные системы в большинстве случаев действуют как специалисты не очень высокой квалификации, а в узких инженерных и научных областях, где круг проблем хорошо формализуем,показывают результаты и на уровне экспертов. Однако применительно к общечеловеческим проблемам, прежде всего к пониманию реального мира, их успехи пока слабы.

Человеческий мозг функционирует по - другому. Он сначала пытается разделить задачу на мелкие подзадачи и к каждой из них применяет не универсальный механизм логического вывода, а самые разные технологии решения. Но главное его отличие от AI-программ, считает Минский, — это способность к рефлексии, пониманию и совершенствованию собственной деятельности. Именно на рефлексии и основывают свои исследования сторонники AGI-подхода. Они сформулировали понятие интеллекта, необходимое для создания действительно умных программ: это свойство разума, объединяющее способности к формированию причинно-следственных цепочек, планированию, решению проблем, абстрактному мышлению, постижению идей и языков, самопознанию и обучению.

В качестве универсального языка общения интеллектуальных компьютеров и людей AGI-специалисты предлагают ложбан (www.lojban.org) — искусственный язык, первоначально созданный для изучения гипотезы Сапира — Уорфа (“структура языка ограничивает мышление людей, его использующих”). Ложбан предлагает форму записи, принятую в логике предикатов, что упрощает автоматическую обработку написанных на нём фраз системами логического анализа. Институт сингулярности, ведущая научная AGI-структура по разработкам интеллектуальных программ, рекомендует ложбан как базовый язык для общения людей и AGI-агентов.

Компьютеры как дети

Год назад состоялась конференция AI@50, которая определила тенденции развития AI/AGI на ближайшие 50 лет (а реально — до сингулярности). Ее спонсором выступило военное агентство передовых исследований DARPA, интересующееся ключевыми технологиями и прорывными направлениями, которые стимулируют приближение новой эпохи. Недаром эксперты отмечают, что одной из проблем сингулярности станет её “элитарность”, и те, кто первыми получат доступ к неограниченным интеллектуальным ресурсам, отнюдь не будут спешить делиться ими с другими. В частности, DARPA в рамках проекта Biologically- Inspired Cognitive Architecture (BICA) намерено создать софт, который будет приближен к человеческому интеллекту значительно сильнее, нежели удалось добиться вот уже много лет еле развивающимся текущим AI-проектам. Первый шаг проекта BICA завершён: 8 научных команд за 13 месяцев разработали ключевые элементы когнитивной архитектуры, моделирующие основные психологические и нейробиологические механизмы человеческого понимания. По-прежнему большие надежды возлагаются на самообучающиеся системы, только в рамках BICA они усиливаются механизмами самопонимания.

Специалисты, выступавшие на AI@50, оптимистично оценили темпы развития систем логического вывода. Если 15—20 лет назад удавалось создать системы для ремонта автомобилей с сотней логических переменных, а самые крупные военные системы логистики насчитывали их до 600 тыс., то сегодня на ПК можно реализовать проект, где таких переменных будет миллион. Кроме того, задачи реального мира с тысячами переменных можно решить за счет существенного понижения их сложности (методом “взлома”), и это тоже под силу современным интеллектуальным решателям. Интересно, что несмотря на постоянное возникновение новых языков и систем программирования, разработчики AI-систем по-прежнему используют проверенный Лисп. Так, он применяется в двух миллионах современных “умных” пылесосов.

Сейчас ученые трудятся над устройствами, способными:

• распознавать изображения, как двухгодовалые дети;
• говорить, как четырехлетки;
• демонстрировать гибкость рук-манипуляторов с ловкостью шестилеток;
• проявлять социальные навыки на уровне десятилетних ребят.

Стратегические направления в AGI

Этим летом институт сингулярности объявил о двух ключевых направлениях исследований, напрямую приближающих сингулярность, и призвал сосредоточиться именно на них. Это:

1. разработка прикладных AGI-систем, которые модифицируют и улучшают свой собственный код;
2. совершенствование математических инструментов поддержки самоулучшающегося AGI-интеллекта.

Однако одним из первых важных шагов к сингулярности станет разработка эффективных алгоритмов автоматической классификации и преобразования данных. Эксперты института отмечают, что в 1990-е годы был зафиксирован существенный скачок в продуктивности труда — за счёт того, что люди научились эффективно использовать технологии предыдущего десятилетия (1980-х). Однако сегодня организации подчас перегружены информацией и не способны её “усвоить” — выделить значимые шаблоны в собственной деятельности и перевести их в общедоступное корпоративное знание, позитивно влияющее на производительность. Этому и предстоит научить компьютеры.

Инвесторов и спонсоров AGI-проектов особо беспокоит вопрос контроля за слишком умным машинным разумом. Активно разрабатывается теория дружелюбного искусственного интеллекта, однако пока в ней немало противоречий. На техническом уровне предлагается создавать так называемые искусственные моральные агенты, которые будут следить за тем, как другие программы выполняют “моральные” правила. Вторая проблема в данной сфере — финансовая. В отличие от многих других прорывных направлений (например, нанотехнологий), сулящих фантастические коммерческие результаты, движение к сингулярности само по себе особо выдающихся результатов не принесет. Вполне возможно появление промежуточных систем, усиливающих интеллектуальный труд в некоторых областях, однако насущные повседневные проблемы они не затронут, отдача о т них будет невысока, поэтому привлечь инвесторов в эту сферу затруднительно. Подобные проекты являются скорее социальными, нежели коммерческими, — победитель получает всё.

Насколько это серьёзно?

О серьёзности данной тематики говорит, например, список участников двухдневного ежегодного саммита “AI и будущее человечества”, проведённого институтом сингулярности в начале сентября 2007 г . в Сан-Франциско и собравшего 900 специалистов. Среди докладчиков, обсуждавших самоулучшающиеся когнитивные системы, в частности, замечены:

• Пол Саффо, директор института будущего, назвавший ключевыми ИТ робототехнику, беспроводную связь и RFID-метки;
• Сэм Адамс, экс-владелец фирмы Knowledge Systems, перешедший в исследовательское подразделение IBM и разрабатывающий машины, которые будут понимать окружающий мир;
• Бен Герцель, глава компании Novamente, разрабатывающей самомодифицирующийся движок Novamente AI Engine. Он полагает, что для создания программы с интеллектом человека вполне достаточно современных математических и алгоритмических наработок и нынешних вычислительных ресурсов. Создать AGI-разум, по мнению Герцеля, можно буквально за пять лет — правда, при условии объединения в одном проекте всех учёных мира;
• Чарльз Харпер, старший вице-президент инвестиционного фонда Джона Темплтона;
• Джеймс Хагес, исполнительный директор института этики и технологий слияния;
• Кристина Петерсон, сооснователь нанотехнологического института предвидения.

Выступил на саммите Питер Норвиг, директор по исследованиям Google, который заявил, что общеизвестный поисковик — это своеобразная рефлексия Сети, попытка понять собственную структуру и содержимое, и с его помощью Интернет самоулучшается, предоставляя обратную связь создателям контента. Однако г-н Норвиг скептически отнесся к мнению о технологическом ускорении, ведущем к сингулярности, заявив, что людям всегда казалось, что именно в их время технологии развиваются быстрее. В то же время он полагает, что для создания AGI вполне достаточно вероятностной логики первого порядка, обрабатывающей данные как последовательности состояний. О значимости программного “самоосознания” говорил и Стив Омохандро, президент фирмы Self-Aware Systems. Он привел пример с Windows, которая, “зависая”, не понимает, что она стала неработоспособна. А вот AGI-системы смогут отслеживать своё состояние и предпринимать необходимые меры для восстановления и улучшения собственной деятельности.

Возможно, качество “рефлексирования” Интернета скоро существенно улучшится — правительство Японии выделяет около 120 млн. долл. на создание поисковой интеллектуальной системы нового поколения. К её формированию привлечены Hitachi, NEC, NTT, Sony, Toyota (автогигант займётся поисковыми сервисами для автомобилистов) и другие компании. На саммите также было объявлено о новом поисковике Powerset, в котором используется семантический анализ и задействована технология обработки естественных языков, созданная в лаборатории Xerox Parc. Интерфейсы движка будут доступны всем желающим, и функциональные возможности Powerset, как предполагается, будут в массовом порядке встроены во множество программ и мобильных устройств.

С оценками коллеги в отношении скорости технологического развития не согласен Родни Брукс, профессор робототехники Массачусетского технологического института и технический руководитель фирмы iRobot. Он прогнозирует, что к 2025 г. приближение сингулярности станет явью. А по оценке директора института сингулярности Роя Курцвейла, сингулярность, вероятно, наступит в 2029 г., и уж никак не позже 2045-го. При этом следует учитывать косвенные взаимоусиливающие влияния других инновационных направлений, прежде всего нанотехнологий, биоинформатики, квантовых и молекулярных компьютеров. Родни Брукс привел такой пример: в 1979 г. робот Стэнфордской лаборатории AI преодолевал 20 м за 6 ч, а в 2005-м их машина победила в гонке роботов, пройдя за это же время 200 км. Создатель роботов не исключает самых разных сценариев развития человечества и полагает, что признаком наступающей сингулярности станут киборги — люди с усиленными физическими и интеллектуальными способностями.

Питер Тил, один из основателей платежной интернет-системы PayPal, подошел к делу, как и полагается предпринимателю, с позиций финансовой выгоды. Хотя на саммите было заметно, что к опасности сингулярности большинство выступающих относится весьма скептически, однако подобный традиционный скептицизм характерен для любых солидных научных форумов. А вот прагматик Тил тем временем инвестировал в институт сингулярности 500 тыс. долл., назвав подобные вложения страхованием против катастроф.

Впрочем, участники саммита были солидарны в главном: не существует никаких неразрешимых теоретических и технических препятствий для создания программы с интеллектом человека.

Статья помещена в музей 28.09.2007 года
Статья опубликована в PC Week/RE №35, 2007 года, с. 46, 50.
Перепечатывается с разрешения редакции