Если сегодня приставкой «нейро» уже никого не удивишь, то еще шесть-семь лет назад ответ на вопрос «Чем занимаешься?» — «нейрокомпьютингом» однозначно вызывал непонимание. Нейронные сети были тогда чем-то вроде занятной игрушки, абстрактной математической теории. О практическом применении нейросетевых технологий для решения различных задач даже речи не шло. И хотя за последние несколько лет ситуация кардинально изменилась, и нейросетевые технологии активно применяются сегодня при решении самого широкого спектра задач, многие из тех, кто начал использовать нейронные сети относительно недавно, не знают, с каким трудом нейрокомпьютинг пробивал себе дорогу в России. Поэтому интересно проследить историю развития и становления нейрокомпьютинга в России за последние 10 лет.

Нейрокомпьютинг, как новое направление науки, ведет свою историю с середины 40-х, когда Маккаллок и Питтс опубликовали свою работу «Логическое исчисление идей, относящихся к нервной активности» [1], в которой изложили принципы функционирования искусственного нейрона. Дальнейшие исследования в 50-х — 60-х годах в мире и в нашей стране подогрели интерес к этой новой области науки. Выход в свет фундаментальных работ Минского, в которых он теоретически доказал, что отдельные нейронные парадигмы не способны решать некоторые задачи, в частности, с помощью однослойного персептрона нельзя решить задачу «исключающего или», фактически затормозил развитие нейрокомпьютинга, практический интерес к нейронным сетям быстро угас и переместился в теоретическую плоскость.

Такое положение сохранялось почти три десятка лет, до середины 80-х. Конец 80-х — начало 90-х характеризуются сначала робким, а потом бурным возрождением интереса к нейронным сетям во всем мире. В России его массовый всплеск проявится позднее — лет через пять, в середине 90-х. А в мире события развиваются достаточно бурно. Резко увеличивается число конференций по нейронной тематике, регулярно проводятся конференции IEEE, посвященные исключительно нейронным сетям, секции по нейронной тематике начинают появляться в различных симпозиумах, посвященных обработке сигналов, робототехнике, авионике и т.д. Лавинообразно нарастает объем литературы, выпускаются сначала десятки, а потом сотни книг по нейронным сетям. А в России — тишина, лишь отдельные коллективы либо продолжают заниматься исследованиями в области нейрокомпьютинга, как делали это уже много лет, либо, отследив всплеск интереса, начинают заниматься этой тематикой. Но уже к 1992 году таких коллективов было не так уж и мало:

  • в Научном центре нейрокомпьютеров (Москва) под руководством профессора Галушкина;
  • в Институте проблем управления РАН (Москва), лаборатория под руководством признанного корифея в области адаптивного управления академика Цыпкина;
  • в Институте высшей нервной деятельности РАН (Москва) под руководством академика Фролова;
  • в Институте нейрокибернетики (Ростов-на Дону) под руководством профессора Дунина-Барковского;
  • в лаборатории Сибирского отделения ВЦ РАН (Красноярск) под руководством профессора Горбаня [3];
  • в ряде НИИ минобороны и спецслужб;
  • в МИФИ, МФТИ, МАИ, МИРЭА, МИЭМ, КрГТУ (Красноярск), РГТУ (Ростов-на-Дону), ЛПИ и др.

Разумеется, перечислить всех, кто в то время занимался нейрокомпьютингом невозможно, поскольку, помимо представленных известных имен, существовало множество небольших научных коллективов и групп, работающих в этой области. Дело в том, что нейрокомпьютерные исследования в России проводились разрозненно, отдельные коллективы не знали про разработки коллег из других городов, что, несомненно, шло во вред развитию нейрокомпьютинга в России. Скажем, профессор Горбань из Красноярска был в свое время весьма удивлен тем, что в Москве серьезно занимаются нейрокомпьютерными исследованиями. Ответное удивление последовало и со стороны столичных разработчиков. И такие случаи не были редкостью.

К 1992 году было создано Российское общество по нейронным сетям (RNNS) — по аналогии со Всемирным обществом по нейронным сетям (WNNS). Под его эгидой в октябре 1992 года в Ростове-на-Дону прошла первая Международная конференция по нейроинформатике и нейрокомпьютингу. Участниками той конференции стали такие гранды нейрокомпьютинга, как Роберт Хехт-Нильсен [2], глава компании HNC, занимающейся выпуском нейрокомпьютеров, Роберт Маркс, координатор IEEE по нейронным сетям, Дональд Вюнш, представлявший корпорацию Boeing и др. Общение с ними оказалось весьма полезным для российских участников конференции.

Годом раньше на базе Омского университета была проведена Всероссийская студенческая олимпиада по нейрокомпьютингу. К сожалению, первая олимпиада оказалась и последней. А жаль, ведь сейчас во многих отечественных вузах читаются курсы по нейрокомпьютингу, причем преподавание ведется разными научными школами, и было бы весьма интересно провести очередную всероссийскую олимпиаду, которая была бы полезна всем. К сожалению, пока это остается мечтой. Начиная с 1993 года, в Красноярске ежегодно проводится конференция по нейрокомпьютингу, доклады на которую присылаются со всей страны. Она фактически стала первой регулярной российской конференцией по нейронным сетям. В МИФИ стали ежегодно проводить школу-семинар «Нейроинформатика», переросшую впоследствии во всероссийскую конференцию. Прошли также несколько специализированных семинаров по нейронной тематике (как, например, совместный российско-британский семинар «Нейроинформатика-90»). Нельзя сказать, что в России совсем уж не уделяли внимания нейронным сетям, но исследований проводилось мало.

С задержкой почти на пять лет нейрокомпьютерный бум докатился, наконец, и до России. Начал издаваться достаточно большой объем литературы по нейрокомпьютингу, в том числе и переводной, выпускаются периодические журналы, проводятся конференции. В стране назрел «нейрокомпьютерный взрыв».

В 1996 году московская компания «Тора-Центр» начинает беспрецедентную акцию — продажу в России лицензионного пакета моделирования нейронных сетей BrainMaker производства California Scientific Software. Пакет предназначался для моделирования многослойных нейронных сетей с полными последовательными связями, обучаемыми по методу обратного распространения ошибки (error backpropagation), оказался прост в использовании и предоставлял много возможностей по изменению топологии многослойной сети и алгоритма обучения [4], хотя и был несколько сложен для первого восприятия. В пакете не было предусмотрено защиты от копирования, он размещался на стандартной 3,5-дюймовой дискете. При этом разработчиком было особо оговорено, что BrainMaker ориентирован в первую очередь на решение финансовых задач, и основными его потребителями должны стать банки и крупные финансовые компании — сектор рынка, где в то время были сосредоточены основные отечественные финансовые ресурсы. Расчет оказался верным — благодаря мощной рекламной поддержке нейропакет BrainMaker приобрел в России небывалую популярность; спустя некоторое время он даже появился на пиратских компакт-дисках.

В тот период появились и другие нейропакеты, например, AI Trilogy от Ward Systems Group и в продажу поступил нейрокомпьютерный ускоритель CNAPS компании Adaptive Solutions, представляющий собой аппаратный ускоритель, построенный на базе одного или нескольких нейрочипов того же производителя. По оценкам, для некоторых задач он может дать выигрыш в производительности до 1000 раз по сравнению с самым передовым на тот момент компьютером с процессором Pentium. Выпускался CNAPS до 1997-1998 годов, после чего был снят с производства, скорее всего, по причине нерентабельности.

Слово «нейро» становится в России модным — почти каждый уважающий себя банк считает долгом купить лицензионный нейропакет и поставить красивую белую коробку на полку. К сожалению, политика компании «Тора» не предусматривала дальнейшего информационного и методического сопровождения своего детища, а консультации по разработке нейросетевых алгоритмов с использованием этого нейропакета пропагандировались, в основном, на бумаге. Поэтому большое количество купленных нейропакетов так и осталось пылиться на полках. Несмотря на это и, невзирая на то, что отдельные пользователи восприняли нейропакет как «средство от всех бед», который сам по себе может решить любую задачу, а бездумное использование нейропакета привело к определенной дискретизации нейрокомпьютинга, проведенная акция стала громадным шагом на пути нейрокомпьютеризации страны, ибо массовый разработчик узнал, что существует новый класс алгоритмов под названием «нейронные сети» и что с их помощью можно эффективно решать различные задачи.

Судьба же аппаратного нейрокомпьютерного ускорителя CNAPS более печальна. Мощный нейроускоритель был нужен для решения только суперзадач, которых не так уж и много, а для решения подавляющего большинства задач достаточно ПК и пакета моделирования нейронных сетей, того же BrainMaker, например. Поэтому нейроускоритель оказался просто невостребован рынком, к тому же его цена в несколько тыс. долл. и необходимость освоения специфичного программного обеспечения отпугивала потенциальных потребителей. Фактически вопрос был поставлен ребром — «а нужен ли нейроускоритель для решения обычных задач», и на него был получен отрицательный ответ. Количество проданных экземпляров нейроускорителя можно было пересчитать по пальцам. Правда, компания «ОГО», занимавшаяся зерновыми поставками, активно доказывала, как она эффективно использует нейроускоритель для решения своих задач, но, по всей видимости, это была в основном рекламная акция. Постепенно интерес к CNAPS затих. Когда позднее в Siemens попытались повторить этот путь и внедрить на российский рынок свой нейрокомпьютер Synaps-1 стоимостью 400 тыс. долл., то натолкнулась на ту же самую проблему — нейрокомпьютер оказался невостребованным.

Это, конечно, не означает, что аппаратные нейроускорители и нейрокомпьютеры не нужны — просто они используются узким кругом коллективов, занимающихся решением именно суперзадач, а массовому пользователю они действительно ни к чему. Для справки, в России ряд научных коллективов имеют в своем распоряжении и нейрокомпьютеры и супермашины для моделирования нейронных сетей, но их мало.

После первого, самого сложного и драматичного этапа становления нейрокомпьютинга наступил следующий, современный этап. Нейронным сетям, наконец, отдали должное. Они широко применяются практически повсюду: в маркетинговых исследованиях; в радио- и гидролокации; в системах управления; в системах принятия решений; в экспертных системах и многих других областях.

Перспективы развития нейрокомпьютинга можно охарактеризовать широко известной фразой: «Кто не был — побудет, а кто был — не забудет». Действительно, человек, один раз успешно применивший нейросетевую технологию и получивший положительный результат, будет стремиться применять в своей работе нейронные сети и далее, осознавая их преимущества перед другими алгоритмами. Те же, кто еще не сталкивался с нейронными сетями, неизбежно с ними столкнутся, поскольку нейрокомпьютинг становится поистине массовой наукой.

Что же касается прогнозов, которые, как известно, дело неблагодарное, то попробую их сделать. На мой взгляд, есть два объективных критерия, по которым можно оценивать будущее тех или иных разработок: использование в военной сфере, а также применение в ширпотребовской бытовой технике. Так было и с обычными компьютерами, появившись на свет в середине века, которые поначалу использовались для военных целей, а затем стали массовым явлением, найдя свое место среди предметов широкого потребления. То же самое происходит и с нейрокомпьютингом — вначале использование в военных целях, а затем в быту. Уже сейчас в открытой печати иногда попадаются заметки, что та или иная фирма создала и внедрила нейросетевой блок системы управления истребителем, использовала нейрочипы в системах наведения ракет или применила нейросетевые методы обработки для распознавания целей в радиолокаторах и так далее. Скорее всего, это означает, что область применения нейросетевых технологии гораздо шире, поскольку большинство разработок все же засекречены. С другой стороны, уже сейчас наблюдается внедрение нейрокомпьютеров в обычные бытовые приборы — примерами могут служить кондиционеры LG со встроенным нейросетевым блоком интеллектуального управления, стиральные машины Samsung с чипом нечеткой логики внутри (это хоть и не «нейро», но близко), бытовые видеокамеры Panasonic с нейронечеткой системой наводки на резкость (список при желании можно продолжить) и, наконец, исследования Microsoft по созданию нейросетевой системы распознавания речи для будущих операционных систем.

Все это свидетельствует о том, что нейрокомпьютинг занимает все более прочные позиции в нашей повседневной жизни. Конечно, было бы глупо утверждать, что в ближайшем будущем нейрокомпьютеры заменят собой обычные компьютеры. Этого не произойдет ни сейчас, ни потом, поскольку «нейроподход» эффективен не для всех задач. Но там, где нейротехнологии имеют неоспоримые преимущества перед другими алгоритмическими методами неизбежно постепенно произойдет замена существующих аппаратных средств и программ на нейрокомпьютеры и нейросетевое программное обеспечение.

Литература

[1] Мак-Каллок У.С., Питтс В. Логическое исчисление идей, относящихся к нервной активности. «Нейрокомпьютер», 1992, №3,4

[2] Роберт Хехт-Нильсен. Нейрокомпьютинг: история, состояние, перспективы. «Открытые системы», №4-5,1998

[3] Александр Горбань. Нейроинформатика и ее приложения. «Открытые системы», 1998, №4-5

[4] Сергей Блинов. BrainMaker — прогнозирование на финансовых рынках. «Открытые системы», 1998, №4-5

Алексей Логовский (allog2000@mail.ru) — сотрудник Московского радиотехнического института


Конференция «Нейрокомпьютеры и их применение»

В феврале в Москве состоялась VII Всероссийская конференция «Нейрокомпьютеры и их применение». Несмотря на то, что в ее работе не приняли участие ряд успешно работающих в этой области фирм, например, «Тора-Центр», «НейрОК», «Модуль», анализ выступлений и состава развернутой в рамках конференции выставки, позволяет сделать определенный срез по текущему состоянию отечественных работ в области нейротехнологий.

В числе организаторов конференции выступили весьма уважаемые организации: Российское Агентство по системам управления, Российская академия наук, Министерство общего и профессионального образования России, ИПУ РАН, МФТИ, Российская академия ракетных и артиллерийских наук и т.д. Работа конференции была организована по следующим секциям:

  • нейрокомпьютеры общего назначения;
  • нейрокомпьютеры для обработки изображений;
  • нейрокомпьютеры для управления динамическими системами;
  • нейрокомпьютеры для обработки сигналов;
  • нейрокомпьютеры в биометрических средствах безопасности;
  • нейрокомпьютеры в информационных и экспертных системах;
  • нейрокомпьютеры в обработке речевой информации;
  • нейрокомпьютеры в медицине;
  • нейрокомпьютеры в АСУ технологическими процессами;
  • нейрокомпьютеры в финансовой деятельности;
  • элементная база нейрокомпьютеров;
  • теория нейронных сетей;
  • нейроматематика;
  • нейрокомпьютеры и мягкие вычисления;
  • философские и методологические проблемы нейрокомпьютеров.

В рамках конференции прошла выставка действующих образцов нейрокомпьютерного оборудования и программного обеспечения. Свои работы продемонстрировали ИПУ РАН, НИИ Радио, НПИЦ «Микросистемы», Центр нанотехнологий, «Инструментальные системы», «Интрасофт», Scan Engineering Telecom (Воронеж), «Нейропроект», МГУ, МГТУ, МГИРЭА, МИФИ, МФТИ, ПГУ (Пенза) и другие организации.

Компания «Интрасофт» представила мультимедийный программный комплекс «Профессор Хигинс. Английский без акцента», включающий два независимых курса фонетики и грамматики. Обучаемый имеет возможность сравнивать свое произношение с эталонным, причем не только на слух, но и визуально, по специально разработанной графической системе визуализации и идентификации звука. Курс грамматики представлен в виде интерактивных упражнений и состоит из 100 уроков. Кстати, большая часть экспозиции выставки была посвящена средствам биометрической идентификации и обработке изображений; например, компания «Тринити» представила систему распознавания отпечатков пальцев различного качества и их последующей классификации.

Пензенский госуниверситет и Пензенский научно-исследовательский электротехнический институт представили системы биометрической аутентификации личности по голосу и по подписи — комплекс «Рубеж». Защита построена на разграничении и контроле доступа пользователей к ресурсам ПК, а также аутентификации личностей пользователей перед проведением ими сеанса работы по их биометрическим характеристикам. В качестве таких характеристик используются динамика ввода личной подписи и/или ввод контрольной речевой фразы.

Несколькими экспозициями был представлен МГТУ им. Н.Э.Баумана. Кафедра ИУ4 представила микропроцессорную систему активной индивидуальной защиты от шума (активные наушники), нейросетевой комплекс неразрушающего контроля печатных плат (распознавание шлифов и проект «Нейропортал: Новости с Российского рынка нейрокомпьютеров». Кафедра «Стартовые ракетные комплексы» представила многофункциональный комплекс распознавания графических образов «Образ». Математический аппарат комплекса позволяет проводить анализ и идентификацию личностей по фотографии, а также распознавание отдельных компонентов образов. Области применения такой системы начинаются от комплексов аутентификации и кончаются централизованными базами данных правоохранительных служб. Лабораторией «Сетевых и телекоммуникационных технологий» демонстрировалась операционная система реального времени MatrixRealTime - клон Linix, содержащая ядро реального времени и специальные средства поддержки аппаратных модулей цифровой обработки сигналов. Области применения данной ОС: АСУТП, системы управления и мониторинга реального времени. В перспективе разработчики планируют создать на ее основе многофункциональную систему с графическим интерфейсом, а также реализовать мультифункциональный виртуальный измерительный комплекс в среде X Window System. Кафедра «Системы автоматического управления» и НПИЦ «Микросистемы» представили новую версию программно-технического комплекса TextAnalyst, а также несколько новых разработок, связанных с применением нейросетевых парадигм для обработки текстовой информации. Пожалуй, наибольший интерес у посетителей вызвала нейросетевая поисковая система, позволяющая осуществлять поиск не только по ключевым словам, но и формировать аналитические обзоры по найденным ресурсам.

Особый раздел выставки был посвящен системам цифровой обработки сигналов. Свои разработки представили компании Autex (ИПУ РАН), Scan Engineering Telecom, «Инструментальные системы». Наибольшее число решений было реализовано на базе цифровых сигнальных процессоров Texas Instruments и на ПЛИС. Одельный стенд был посвящен реализации оптических нейровычислителей. На стенде Scan Engineering Telecom можно было познакомиться с широкой линейкой высокопараллельных вычислителей, реализованных на базе DSP TI и ПЛИС от Xilinx. Здесь можно отметить ряд эффективных решений по созданию отдельных сегментов нейронных сетей и конструктивно законченных систем обработки на основе нейронных алгоритмов. Также на стенде были представлены инструментальные модули серии XDSP и специализированные библиотеки ЦОС — М-модули. Компания «Инструментальные системы» занимает одно из ведущих позиций в России по производству бортовой, промышленной и специализированной электроники — чувствуется многолетний опыт НИИ ВК. На выставке были представлены новейшие разработки: системы ЦОС на ASDP2106x, TMS320C54x, 6xxx, многоканальные системы сбора сигналов с разрядностью до 24 бит.

Компания «НейроПроект» представила аналитические системы многофункционального анализа и прогноза. Экспозиция знакомила с результатами научных исследований в области адаптивных вычислительных алгоритмов, программном обеспечении в области высокоинтеллектуальных технологий, методами решения практических задач с использованием методов искусственного интеллекта. Компания принимала участие в разработке ключевых компонентов большинства программных продуктов компании Ward Systems Group. Нейронные сети, генетические алгоритмы — это аналитические технологии, созданные и выверенные самой природой за миллионы лет ее существования. Они позволяют решать задачи прогнозирования, классификации, поиска оптимальных вариантов, и совершенно незаменимы в тех случаях, когда в обычных условиях решение задачи основано на интуиции или опыте, а не на ее строгом математическом описании, т.е. когда речь идет об обработке эвристических знаний. Основные области применений разработок «НейроПроекта»: аналитика в финансовой сфере, оптимальное управление в социально-экономических задачах, для прогнозирования результатов выборов и т.п.

Леонид Черняк

Поделитесь материалом с коллегами и друзьями