Научный электронный журнал КубГАУ . № 02(4), 2004 УДК 007.681.5:519.714:519.766 ИДЕНТИФИКАЦИЯ СЛОВ ПО ВХОДЯЩИМ В НИХ БУКВАМ С ПРИМЕНЕНИЕМ СИСТЕМНО-КОГНИТИВНОГО АНАЛИЗА
Е.В. Луценко, д.э.н., профессор Кубанский государственный аграрный университет
В данной статье исследуется возможность идентификации слов по входящим в них буквам. При этом слова рассматриваются как классы распознавания, а буквы - как признаки. Подробно описана технология синтеза и анализа модели с применением инструментария СК-анализа - системы "Эйдос", приведены видеограммы, табличные и графические выходные формы, причем впервые - классическая и интегральная когнитивные карты, генерируемые в версии 10.7. Продемонстрировано на численных примерах, что при идентификации слов главную роль играет информация о входящих в них буквах, а последовательность букв и их сочетаний не играет особой роли. Продемонстрирована устойчивость модели от неполноты и зашумленности информации. Материал статьи может быть использован при преподавании дисциплины "Интеллектуальные информационные системы".
Язык является мощным средством моделирования реальности. Иерархическая структура языка, включающего в частности такие структуры, как символы, слова, предложения и тексты, является ярким примером иерархической структуры обработки информации, обеспечивающей адекватное отражение структуры реальности. Описание некоторых объектов на естественном языке является их моделированием и позволяет решать задачи идентификации, прогнозирования, сравнения и классификации этих объектов. Автоматизированный синтез моделей объектов, описанных на естественном языке, представляет большой интерес для теории и практики систем искусственного интеллекта. Эффективность языка, как системы моделирования, удивительна: 32 буквы русского алфавита позволяют составить более 40 тысяч слов русского языка, из которых может быть образовано огромное количество осмысленных предложений. Каждый символ содержит некоторое количество информации о словах, предложениях и текстах, в которые он входит, каждое слово - о предложениях и текстах, и каждое предложение - о текстах. Однако в буквах содержится больше информации о словах, в словах - о предложениях, в предложениях - о текстах. Поэтому на основе анализа букв целесообразно идентифицировать лишь слова, а на основе слов - предложения, на основе предложений - тексты. В данной статье исследуется возможность идентификации слов по входящим в них буквам. При этом слова рассматриваются как классы распознавания, а буквы - как признаки. Эта задача проста и наглядна. Поэтому она рекомендуется в качестве первой лабораторной работы для освоения инструментария системно-когнитивного анализа - универсальной когнитивной аналитической системы "Эйдос" [1, 2, 3]. В этой связи изложение материала в статье ведется в такой форме, чтобы ее можно было использовать в качестве руководства к лабораторной работе. Подобные задачи имеют большое практическое значение и решаются в ряде систем, например, в редакторе Word - при проверке орфографии и подборе рекомендуемых слов для замены, в системе FineReader - для поиска слов с неверно распознанными символами и др. Задание1. Создать файл в стандарте DOS-текст с концами строк, записать его в поддиректорию DOB. 2. Сгенерировать классификационные и описательные шкалы и градации, а также обучающую выборку. 3. Осуществить синтез и верификацию модели. 4. Провести анализ устойчивости модели к неполноте информации и наличию шума. 5. Проверить способность модели правильно идентифицировать классы, один из которых является подмножеством другого. 6. Оценить ценность букв для идентификации слов. Сравнить суммарную ценность для этой цели гласных и согласных букв. 7. Выполнить кластерно-конструктивный анализ слов и букв, вывести информационные и семантические портреты слов и букв, построить их профили. 8. Вывести в графической форме семантические сети и когнитивные диаграммы слов и букв, а также классическую и интегральную когнитивные карты. Пример решенияПример решения задания 1: "Создать файл в стандарте DOS-текст с концами строк, записать его в поддиректорию DOB"Текстовый файл создается в редакторе Word или MultiEdit. Если он создан в Word, то при сохранении выбирается режим: "Файл - Сохранить как - Тип файла: Текст DOS с разбиением на строки". Имя файла произвольное, но удовлетворяющее требованиям DOS. Этот файл каждый студент создает самостоятельно из двух - трех абзацев текста. Например, это может быть краткая биография студента или текст может быть взят из какого-либо файла, имеющегося на компьютере. Могут использоваться и русский, и латинский алфавиты, а также цифры. Регистр роли не играет. Пример текста файла:
Молоко око срок окорок огород В. Г. Белинский
высоко и по достоинству оценил гениальное творение нашего национального поэта. Великий критик писал: "Пусть идет время и приводит с собой новые потребности, пусть растет русское общество и обгоняет "Онегина": как бы далеко оно ни ушло, всегда будет оно любить эту поэму, всегда будет останавливать на ней исполненный любви и благодарности взор...".
Слова из этого файла будут использованы системой для выполнения следующего этапа работы. Пример решения задания 2: "Сгенерировать классификационные и описательные шкалы и градации, а также обучающую выборку"Генерация классификационных и описательных шкал и градаций осуществляется в соответствующих режимах системы "Эйдос": "Автоввод первичных признаков и TXT-файлов", "F5 Признаки - Буквы" (рисунки 1, 2):
В результате будут автоматически сгенерированы классификационные и описательные шкалы и градации, а также обучающая выборка (приведена полностью) (таблицы 1, 2 3). Таблица 1 - КЛАССИФИКАЦИОННЫЕ ШКАЛЫ И ГРАДАЦИИ (СЛОВА)
Таблица 2 - ОПИСАТЕЛЬНЫЕ ШКАЛЫ И ГРАДАЦИИ (БУКВЫ)
Таблица 3 - ОБУЧАЮЩАЯ ВЫБОРКА
Пример решения задания 3: " Осуществить синтез и верификацию модели"Синтез модели осуществляется на основе обучающей выборки (таблица 3) в соответствующем режиме (рисунок 3) после формирования классификационных и описательных шкал и градаций и обучающей выборки. В результате синтеза семантической информационной модели рассчитываются две ее основные матрицы: матрица абсолютных частот (таблица 4) и матрица информативностей (таблица 5).
Таблица 4 - МАТРИЦА АБСОЛЮТНЫХ ЧАСТОТ (ФРАГМЕНТ)
Таблица 5 - МАТРИЦА ИНФОРМАТИВНОСТЕЙ (ФРАГМЕНТ)
Верификация модели осуществляется путем копирования обучающей выборки в распознаваемую (рисунок 4), распознавания (рисунок 5) и измерения дифференциальной и интегральной валидности (рисунок 6).
Видим, что модель адекватна, т.к. интегральная валидность составляет 100 %. Это означает, что при идентификации слов на основе знания входящих в них букв системой не было допущено ни одной ошибки, причем необходимо специально отметить, что при этом в модели не учитывались последовательность букв и их сочетаний. Пример решения задания 4: "Проверить устойчивость модели к неполноте информации и наличию шума"В примере, исследуемом в данной лабораторной работе, неполнота информации - это пропуск букв, а наличие шума - замена верных букв неверными. Устойчивость модели к неполноте информацииПодготовим распознаваемую выборку, состоящую из идентифицируемых слов с отсутствующими буквами. Для этого выполним следующую последовательность шагов: Шаг 1. Сбросим распознаваемую выборку в режиме "F7 Сервис - Генерация (сброс) баз данных - Распознаваемые анкеты" (рисунок 9): Шаг 2. Скопируем, например, первую анкету из обучающей выборки в распознаваемую, используя возможности режима "F2 Обучение - Ввод-корректировка обучающей выборки" (рисунок 4); Шаг 3. Выберем режим "F4 Распознавание - Ввод-корректировка распознаваемой выборки" (рисунок 10):
Выбор режима осуществляется нажатием клавиши Enter. Шаг 4. Перейдем в правое окно, в котором задаются коды признаков, нажав клавишу "TAB". Шаг 5. Удаляем последний код признака и дублируем анкету, нажав клавишу "F5 Дублирование анкеты". Повторяем шаги 4 и 5 до тех пор, пока в описании слова останется одна буква. В результате получится видеограмма, представленная на рисунке 11. Студенты при выполнении этого этапа работы могут взять несколько анкет на выбор. При этом набор анкет должен отличаться у разных студентов. Обучающая выборка в этом случае будет иметь вид, представленный на таблице 4:
Таблица 6 - ВАРИАНТЫ КОДИРОВАНИЯ ОБЪЕКТА ОБУЧАЮЩЕЙ
ВЫБОРКИ, ОТЛИЧАЮЩИЕСЯ СТЕПЕНЬЮ НЕПОЛНОТЫ ИНФОРМАЦИИ
Жирным шрифтом выделены символы, коды которых есть в анкете. Шаг 6. Выполним пакетное распознавание, выбрав и выполнив режим "F4 Распознавание - Пакетное распознавание", как показано на рисунках 5 и 6. Шаг 7. Затем выберем и выполним режим "F4 Распознавание - Вывод результатов распознавания" (рисунок 12):
Шаг 8. Войдя в этот режим получим видеограмму, представленную на рисунке 13:
Шаг 9. Нажав клавишу "F1 Карта идентификации объекта с классами" получим более подробные результаты идентификации, представленные на рисунке 14:
Из обобщенных и детальных выходных форм по результатам распознавания слова по его неполному описанию видно, что модель обладает очень высокой устойчивостью к неполноте информации в описании идентифицируемых объектов. Устойчивость модели к наличию шумаШум можно рассматривать как сочетание неполноты информации (т.к. некоторые значащие символы исчезают из описаний объектов), и дезинформации (т.к. в описание включаются ложные символы). Поэтому замену символов в словах на символы, которые не встречаются по обучающей выборке можно считать неполнотой информации. Этот случай мы рассматривать не будем, т.к. по сути уже рассмотрели его в предыдущем пункте. Рассмотрим пример, в котором одно слово заменой букв преобразуется в другое слово, например, слово "критик" преобразуется в слово "окорок". Каждой замене будет соответствовать одна анкета распознаваемой выборки (таблица 5):
Таблица 7 - ВАРИАНТЫ КОДИРОВАНИЯ ОБЪЕКТА ОБУЧАЮЩЕЙ
ВЫБОРКИ, ОТЛИЧАЮЩИЕСЯ УРОВНЕМ ШУМА
Результаты идентификации представлены на рисунке 15:
Видим, что модель обладает определенной устойчивостью и к шуму. Пример решения задания 5: "Проверить способность модели правильно идентифицировать классы, один из которых является подмножеством другого"С этой целью в текстовый файл специально включены такие слова, как: "око", "окорок", "молоко". Результаты их идентификации приведены на рисунке 16:
Как видим идентификация осуществляется правильно. Это является важным достоинством семантической информационной модели системы "Эйдос", т.к. представляет собой проблему для многих типов нейронных сетей. Достаточно отметить, что возможность решения подобных задач считается одним из основных достоинств развитой модели нейронной сети, реализованной в неокогнитроне Фукушимы. Пример решения задания 6: Оценить ценность букв для идентификации слов. Сравнить суммарную ценность для этой цели гласных и согласных буквДля решения этой задачи запустим 2-й режим в 3-й подсистеме (рисунок 17). В этом режиме все признаки, которыми в данном примере являются буквы, выводятся системой "Эйдос" в порядке убывания среднего количества информации, которое в них содержится о принадлежности к словам. Если просуммировать ценность букв "нарастающим итогом" то получим накопительную кривую, представленную на рисунке 18. Эта кривая называется "Парето-диаграмма" по имени известного итальянского математика и экономиста XIX, Вильфредо Парето, впервые предложившего оценивать силу влияния факторов и исключать из рассмотрения незначимые факторы и впервые построившего подобные диаграммы.
Характерная "полочка" на Парето-диаграмме соответствует цифрам и буквам латинского алфавита, которые не встретились в словах обучающей выборки. В таблице 8 приведены буквы, проранжированные в порядке убывания среднего количества информации в них, о принадлежности к словам.
Таблица 8 - ЦЕННОСТЬ БУКВ ДЛЯ ИДЕНТИФИКАЦИИ СЛОВ
Пример решения задания 7: "Выполнить кластерно-конструктивный анализ слов и букв, вывести информационные и семантические портреты слов и букв, построить их профили"Кластерно-конструктивный анализ словКластерно-конструктивный анализ выполняется в 5-й подсистеме "Типология" (рисунок 19). Сначала на основе матрицы информативностей рассчитывается матрица сходства классов (таблица 7), а затем на основе нее формируется таблица кластеров и конструктов классов (таблица 8).
Таблица 9 - ФРАГМЕНТ МАТРИЦЫ СХОДСТВА КЛАССОВ (СЛОВ)
Таблица 10 - КОНСТРУКТ СЛОВ: "КРИТИК - ВСЕГДА"
Кластерно-конструктивный анализ буквАналогично в режиме кластерно-конструктивного анализа признаков (рисунок 20) получаем матрицу сходства букв и конструкты букв (таблицы 11 и 12).
Таблица 11 - ФРАГМЕНТ МАТРИЦЫ СХОДСТВА ПРИЗНАКОВ (БУКВ)
Таблица 12 - КОНСТРУКТ БУКВ: "А - О"
Информационные портреты классов (слов)Информационные портреты классов (слов) представляют собой списки признаков (букв), проранжированных в порядке убывания количества информации, содержащихся в них о принадлежности к данным классам. Выход на режим генерации информационных портретов классов показан на рисунке 20. На рисунке 21 приведена круговая диаграмма информационного портрета класса (слова) "Достоинству". Обращает внимание, что в 4-х буквах из 8: "У", "Д", "С", "Т" содержится более 80% информации о принадлежности к данному слову.
Профили словПрофиль класса представляет собой гистограмму, в которой показан вклад каждого признака в общее количество информации, содержащееся в образе данного класса. Профили классов и признаков отображаются в 4-м режиме 6-й подсистемы системы "Эйдос" (рисунок 22). Для примера на рисунке 23 показан профиль того же слова "Достоинству".
Семантические портреты и профили буквВыход на режим генерации семантических портретов признаков (букв) показан на рисунке 20. Один таких портретов, а именно портрет буквы "Й", приведен на рисунке 24, а ее профиль - на рисунке 25.
Пример решения задания 8: "Вывести в графической форме семантические сети и когнитивные диаграммы слов и букв, классическую и интегральную когнитивные карты"Эти возможности реализуются в режимах, выход на которые показан на рисунке 20. Семантическая сеть классов отображает в графической форме результаты кластерно-конструктивного анализа слов (рисунок 26), а признаков - букв (рисунок 27). Красный цвет линии связи в семантических сетях означает сходство, а синяя- различие, толщина линии соответствует степени выраженности этого свойства. Детальную структуру любой линии связи на семантических сетях можно исследовать на когнитивных диаграммах классов (рисунок 28) и признаков (рисунок 29). Классическая когнитивная карта для слова "Останавливать" приведена на рисунке 30. Классическая когнитивная карта представляет собой графическую диаграмму, объединяющую изображение нейрона и семантической сети его рецепторов. Классическая когнитивная карта представляет собой подмножество "Интегральной когнитивной карты", в которой объединены семантический сети нейронов и рецепторов и фрагмент нейронной сети, соединяющей рецепторы с нейронами. Режим системы "Эйдос" "Классические и интегральные когнитивные карты" позволяет при соответствующих параметрах, задаваемых в диалоге, генерировать и выводить в графической форме как интегральные, так и классические когнитивные карты, а также инвертированные когнитивные карты, представляющие собой семантическую сеть нейронов, соединенных фрагментов нейронной сети с одним рецептором.
ВыводыНа основе вышеизложенного можно сделать вывод о том, что для надежной и достоверной идентификации слов (по крайней мере при сравнительно небольшом их количестве) вполне достаточно информации о входящих в них буквах, и для этого нет особой необходимости привлекать дополнительную информацию о последовательности букв и их сочетаний. Продемонстрирована устойчивость модели от неполноты и зашумленности информации. Приведено более 30 графических форм, генерируемых системой "Эйдос", причем впервые - классическая и интегральная когнитивные карты. Материал статьи может быть использован при преподавании дисциплины "Интеллектуальные информационные системы".
Список литературы 1. Луценко Е.В. Теоретические основы и технология адаптивного семантического анализа в поддержке принятия решений (на примере универсальной автоматизированной системы распознавания образов "ЭЙДОС-5.1"). - Краснодар: КЮИ МВД РФ, 1996. - 280с. 2. Луценко Е.В. Автоматизированный системно-когнитивный анализ в управлении активными объектами (системная теория информации и ее применение в исследовании экономических, социально-психологических, технологических и организационно-технических систем): Монография (научное издание). -Краснодар: КубГАУ. 2002. -605 с. 3. Пат. № 2003610986 РФ. Универсальная когнитивная аналитическая система "ЭЙДОС" / Е.В.Луценко (Россия); Заяв. № 2003610510 РФ. Опубл. от 22.04.2003. - 50 с. |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Научный электронный журнал КубГАУ . № 02(4), 2004 |