НАЦІОНАЛЬНИЙ АВІАЦІЙНИЙ УНІВЕРСИТЕТ
НАЦІОНАЛЬНА АКАДЕМІЯ НАУК УКРАЇНИ
ІНСТИТУТ ПРОБЛЕМ МОДЕЛЮВАННЯ В ЕНЕРГЕТИЦІ
ім. Г.Є. ПУХОВА
БЕНАМЕУР Лиес
УДК 004.383.8.032.26:681.5.15
НЕЙРОМЕРЕЖЕВІ МЕТОДИ І ЗАСОБИ
ІДЕНТИФІКАЦІЇ ТА ПРОГНОЗУВАННЯ ПРОЦЕСІВ УПРАВЛІННЯ
В УМОВАХ НЕВИЗНАЧЕНОСТІ
Спеціальність 05.13.06 – Автоматизовані системи управління
та прогресивні інформаційні технології
Автореферат
дисертації на здобуття наукового ступеня
кандидата технічних наук
Київ – 2002
Дисертацією є рукопис.
Робота виконана на кафедрі автоматики та управління в технічних системах Національного технічного університету України “Київський політехнічний інститут” Міністерства освіти і науки України.
Наукові керівники
§ доктор технічних наук, професор Краснопрошина Аїда Андріївна Національний технічний університет України “КПІ”, завідувач кафедри автоматики та управління в технічних системах.
§ кандидат технічних наук, доцент Кравець Петро Іванович, Національний технічний університет України “КПІ”, доцент кафедри автоматики та управління в технічних системах.
Офіційні опоненти:
§ Заслужений діяч науки і техніки України, доктор технічних наук, професор
Матов Олександр Якович, Відкрите акціонерне товариство “Київське підприємство обчислювальної техніки й інформатики”, заступник генерального директора по науці,
§ кандидат технічних наук, доцент
Олецький Олексій Віталійович, Національний університет “Києво-Могилянська академія”, доцент факультету інформатики.
Провідна установа: Інститут проблем реєстрації інформації НАН України, відділ цифрових моделюючих систем.
Захист відбудеться “10” жовтня 2002 р. о 1400 годині на засіданні спеціалізованої вченої ради К 26.185.02 в Інституті проблем моделювання в енергетиці ім. Г.Є. Пухова НАН України за адресою: 03164, м. Київ-164, вул. Генерала. Наумова, 15.
З дисертацією можна ознайомитись у бібліотеці Інституту проблем моделювання в енергетиці ім. Г.Є. Пухова НАН України за адресою: 03164, м. Київ-164, вул. Генерала Наумова, 15.
Автореферат розісланий “09” жовтня 2002 р.
Вчений секретар
спеціалізованої вченої ради К 26.185.02
кандидат технічних наук Семагіна Е.П.
ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ
Актуальність. Однією з основних проблем теорії управління процесами і об’єктами є проблема управління в умовах інформаційної невизначеності, пов’язаної з недостовірністю, протиріччям, неможливістю чіткої інтерпретації інформації, що характеризує стан об’єкта чи процеса, стан зовнішнього середовища та взаємозв’язок між ними. Така інформаційна невизначеність породжує структурну та параметричну невизначеність стану об’єкта чи процеса управління і призводить до неможливості прийняття обґрунтованих рішень при управлінні ними.
На сучасному етапі розвитку теорії управління шляхи вирішення цієї проблеми вбачаються в застосуванні нових інформаційних технологій, складовою частиною яких є інтелектуальні засоби обробки інформації. Такими засобами в сучасних інформаційних технологіях є нейроні мережі і засоби (апарат) нечіткої математики та логіки, поєднання яких дає можливість створити якісно нові апаратні та програмні засоби і суттєво розширити клас розв’язуваних задач управління в умовах інформаційної невизначеності та підвищити ефективність систем управління.
Вирішенню задач управління в умовах невизначеності присвячені роботи Л.Заде, Д. Шапiро, Е. Мамданi, Такажи, М. Сугено, А.Кофман, Дюбуа, Kandel, О.Г.Івахненко, Р. Алієва, А.Н. Аверкіна, Д.Б. Юдіна та ін. Однак згадана проблема є дуже багатогранною і не має чіткого розв’язку, а тому розроблені в цих роботах підходи, методи та засоби потребують удосконалення з врахуванням сучасних досягнень інформаційних технологій.
В рамках вирішення згаданої загальної проблеми управління в умовах інформаційної невизначеності основними, базовими її складовими є задачі моделювання, ідентифікації та прогнозування виходів та стану об’єктів чи процесів управління, ефективне вирішення яких дозволяє зменшити рівень цієї невизначеності або повністю її усунути і тим самим зробити можливим вирішити або покращати умови вирішення основних задач управління. Тому вирішення проблем моделювання, ідентифікації та прогнозування в умовах інформаційної невизначеності є актуальною задачею.
Задачі моделювання, ідентифікації та прогнозування в умовах інформаційної невизначеності охоплюють дуже широке коло проблем, пов’язаних з формою невизначеності, а тому в загальному вигляді не можуть бути вирішеними. Дана робота присвячена вирішенню задач моделювання, ідентифікації та прогнозування в умовах, коли інформаційні потоки, які характеризують процес чи об’єкт управління, є лінгвістичними даними чи даними, одержаними на рівні “м’яких вимірів”, і можуть бути адекватно представленими нечіткими змінними або нечіткими числами, а об’єкт чи процес управління в інформаційному плані представляється як “чорний ящик”.
Зв’язок роботи з науковими програмами, планами. Робота виконувалася як складова частина досліджень, що проводяться кафедрою автоматики та управління в технічних системах НТУУ “КПІ” та Науково-дослідному інституті інформаційних процесів при НТУУ “КПІ” відповідно до державних та галузевих науково-технічних програм. Наукові та практичні результати дисертаційної роботи використовувалися при виконанні науково-дослідних робіт:
1) Розробка та дослідження методів та алгоритмів вирішення оптимізаційних задач при керуванні нелінійними об’єктами із розподіленими та змінними параметрами параболічного типу в умовах повної та неповної інформації про керовану величину (№ держ. реєстрації 0198U000651);
2) Розробка та дослідження інтелектуальних систем керування технологічними процесами синтезу надтвердих матеріалів з нечіткими регуляторами (№ держ. реєстрації 0198U000652);
3) Методи і методики синтезу оптимальних систем управління нелінійними об’єктами із розподіленими параметрами параболічного типу (№ держ. реєстрації 0100U000827);
4) Методи та засоби синтезу інтелектуальних адаптивних систем керування з лінгвістичними та нейромережними моделями складних об’єктів (№ держ. реєстрації 0102U000826).
Мета і задачі дослідження. Метою роботи є розробка, дослідження та комп’ютерна реалізація методів та засобів ідентифікації і прогнозування широкого класу процесів при розв’язанні задач управління в умовах інформаційної невизначеності та створення на їх основі відповідної інформаційної технології.
Для досягнення поставленої мети необхідно вирішити наступні задачі:
§ аналіз існуючих методів та алгоритмів розв’язку задач ідентифікації та прогнозування в умовах інформаційної невизначеності і теоретично обґрунтовано доцільність розв’язування цих задач за допомогою апарату нейромереж;
§ аналіз стандартних математичних алгоритмів ідентифікації та прогнозування з метою виявлення особливостей їхнього застосування в нейромережі;
§ розробка методів, алгоритмів та програм реалізації операцій нечіткої арифметики в нейромережі для практично довільного вигляду компонентів операції (унімодальних або бімодальних);
§ дослідження процесів комп’ютерного розв’язування систем лінійних алгебраїчних рівнянь з сингулярною та виродженою матрицею в нейромережі з точки зору використання в прямих методах ідентифікації та прогнозування;
§ розробка та дослідження алгоритмів ідентифікації в нейромережі моделей об’єктів у вигляді поліномів Колмогорова-Габора з додатковою умовою представлення – спостережуваних даних як нечітких змінних або нечітких чисел;
§ розробка та дослідження алгоритмів розв’язку задач прогнозування процесів управління в нейромережі в чіткій та нечіткій постановці за допомогою методів “занурення”;
§ створення інформаційної технології на основі розроблених методів та алгоритмів з побудовою програм на внутрішній мові пакета математичного моделювання MATLAB/ Simulink.
Об’єктом дослідження є методи та алгоритми ідентифікації і прогнозування фізичних та інформаційних процесів як основа комп’ютерного розв’язку задач управління складними об’єктами в умовах інформаційної невизначеності.
Предметом дослідження є нейромережова реалізація методів та алгоритмів ідентифікації та прогнозування процесів управління в умовах інформаційної невизначеності, які включаючи операцій нечіткої арифметики та алгоритми розв’язування систем лінійних алгебраїчних рівнянь Ах = b з чіткими або нечіткими елементами матриці A та/або вектора b.
Методи досліджень. В роботі використовувались: методи теорії штучного інтелекту, методи нечіткої арифметики, методи математичного та інформаційного моделювання, теорії нейронних мереж та методи оптимізації.
Наукова новизна отриманих результатів. В результаті проведених розробок та досліджень в роботі на базі нейромережевих принципів обробки інформації створено алгоритмічні основи побудови інформаційних технологій для комп’ютерного розв’язання задач ідентифікації та прогнозування при реалізації процесів управління. В тому числі отримані наступні результати:
§ розроблені нові метод та алгоритм виконання операцій нечіткої арифметики в нейромережі при довільному вигляді компонентів операцій (унімодальних або бімодальних), які забезпечують ефективну комп’ютерну реалізацію при побудові відповідних модулей програмного комплексу;
§ удосконалено алгоритми розв’язання систем лінійних алгебраїчних рівнянь (Ах = b) з сингулярною та виродженою матрицею в нейромережі, що дозволяє значно підвищити ефективність комп’ютерного розв’язання систем рівнянь з нечіткими елементами матриці A та/або вектора b, в межах інформаційно-технологічних засобів, що розробляються;
§ на основі використання полінома Колмогорова-Габора розроблені метод та алгоритм ідентифікації об’єктів типу “чорний ящик”, спостережувані дані “вхід-вихід” яких отримані на рівні “м’яких вимірів”;
§ розроблений алгоритм розв’язку задач прогнозування нечітких числових рядів в нейромережі, на підставі чого дістали подальшого розвитку засоби прогнозування, побудовані на основі методу занурення;
§ алгоритми орієнтований на побудову програмних засобів (модулей), як складової частини інформаційної системи.
Практична цінність результатів роботи. Створено діючий програмний комплекс (програмно-інформаційну технологію) з застосування загальновідомої мови програмування та моделювання MATLAB/Simulink, що реалізує запропоновані методи та алгоритми обробки інформації і дозволяє ефективно розв’язувати складні задачі ідентифікації та прогнозування процесів з нечіткими вхідними даними.
Розроблений програмний комплекс включено до блоку математичного забезпечення, яке розроблялось при виконанні науково-дослідних робіт 947-ДБ.00 “Розробити програмне забезпечення для ідентифікації об’єктів складних технічних систем в умовах невизначеності” (Національний авіаційній університет), № держ. реєстрації 0100U003953).
Основні положення та рекомендації, які викладені в дисертаційній роботі, використані в навчальному процесі для проведення лабораторного практикуму з дисциплін “Теорія прийняття рішень”, “Комп’ютерні системи підтримки прийняття рішення” (Європейській університет фінансів, інформаційних систем, бізнесу та менеджменту), “Інформаційні технології математичних обчислень в умовах невизначеності” (Національній авіаційній університет).
Апробація результатів дисертації. Наукові результати дисертаційної роботи докладалися і обговорювались на науково-технічних конференціях: Міжнародній конференції з управління “Автоматика - 2000” (Львів), Міжнародній науково-технічній конференції “АВІА - 2000” (Київ, Національний авіаційній університет), VII Міжнародній науково-практичній конференції “Інформаційні технології в економіці, менеджменті і бізнесі. Проблеми науки, практики і освіти” (Київ – 2001, Європейський університет), Міжнародній науково-технічній конференції “АВІА - 2002” (Київ, Національний авіаційній університет).
Публікації. Основні наукові положення та результати дисертаційної роботи опубліковані в 7 статтях у фахових науково-технічних журналах та 4 доповідях і тезах доповідей на конференціях.
Структура та об’єм дисертацій. Дисертація складається з переліку умовних позначень, вступу, 6 розділів, висновків, переліку використаної літератури з 93 найменувань, 45 рисунків, 6 таблиць та 10 додатків. Загальний обсяг роботи – 171 сторінка.
ОСНОВНИЙ ЗМІСТ РОБОТИ
У вступі коротко охарактеризована проблема управління в умовах інформаційної невизначеності, обґрунтована актуальність роботи, сформульована її мета, наведені основні наукові та практичні результати, які отримані в дисертації і виносяться на захист, показана структура та об'єм дисертації.
В першому розділі на основі огляду літературних джерел подано аналіз сучасного стану та перспектив вирішення проблем управління, прогнозування та ідентифікації в умовах інформаційної невизначеності, і показано, що можливість її розв’язку вбачається в застосуванні нових інформаційних технологій, побудованих на основі інтелектуальних засобів обробки інформації, нейронних мережах та апараті нечіткої математики та логіки. На основі проведеного аналізу сформульовано задачі, що потребують вирішення, а також підхід до організації необхідних комп’ютерних засобів обробки інформації.
Другий розділ присвячений дослідженню операцій нечіткої арифметики та розробці алгоритмів виконання операцій нечіткої арифметики над унімодальними і бімодальними нечіткими змінними та нечіткими числами і їх реалізації в нейромережі. Сформульовано матричний принцип виконання операцій нечіткої арифметики і головні евристики, суть яких полягає у наступному.
Нехай та – нечіткі зміни (нечіткі чисел), та – ступінь належності до відповідно, – операція нечіткої арифметики, – нечіткі зміни (нечіткі чисел).
Алгоритм реалізації матричного принципу має два етапи. На першому етапі формуються дві матриці с і , де , , i = 1,…,m; j = 1,…,n.
Елементи матрицьі формуються за принципом нечіткого розширення (Заде Л.)
На другому етапі із системи матриць формується результат – підмножина , q = 1,…,m чи (q = 1,…,n). Результат формується шляхом використання розроблених евристичних правил, які дозволяють одержати підмножину таку, що найбільш точно апроксимує отриману систему матриць результату в припущенні, що розглядається у вигляді вектора-рядка, а у вигляді вектора-стовпця.
Матрицю результату представлено на рис.1, де окремо виділено елемент , у якому (i,j) . Рядок і стовпець, на перетинанні яких знаходиться зазначений елемент, приймаються як робочі, їхні компоненти (кількість яких m+n-1) утворюють крос-множину, що має визначені властивості.
Реалізація операцій нечіткої арифметики в нейромережі відповідно до принципу нечіткого розширення будується так, що нейромережа повинна мати два рівнозначних канали: перший канал – реалізація процедури () (i,j) з урахуванням всіх евристичних правил, що стосуються операції, і другий канал – (max-min) процедури з функцією належності, обчислення = maxmin() (i,j)?. Загальна схема мережі, що реалізує операцій нечіткої арифметики в нейромережі, представлена на рис. 2.
Для визначення рішення застосовано принцип “переможець отримує все” (WTA), згідно з яким переможець визначається за значенням функції належності для рядків і для стовпців. Для оцінки значення переможців використано формулу дефазифицікації матриці результатів по рядках і по стовпцях (метод центра ваг)
і .
На основі пропонованих алгоритмів виконання операцій нечіткої арифметики розроблений програмний модуль, що приймає участь у процесі прогнозування з допомогою полінома Колмогорова-Габора (прогнозуючий фільтр).
В третьому розділі розглядаються методи розв’язування чітких і нечітких систем лінійних алгебраїчних рівнянь в нейромережі як апарату для реалізації прямих методів розв’язування задач параметричної ідентифікації та прогнозування в умовах інформаційної невизначеності. Для розв’язання систем лінійних алгебраїчних рівнянь в залежності від характеристик конкретної системи існують різні методи та алгоритми. У роботі враховується, що для сумісної систему лінійних алгебраїчних рівнянь потрібний точний розв’язок, тоді як для несумісної – результатом може бути деякий вектор “наближеного розв’язку”, що дає мінімальне значення квадратичного функціонала похибки.
Нехай маємо систему лінійних алгебраїчних рівнянь з матрицею дійсних коефіцієнтів , , і вектором вільних членів b, яка щодо невідомого вектора записується в матричній формі Один з шляхів розв’язування систем лінійних алгебраїчних рівнянь полягає в утворенні цільової функції , де і мінімізації її чисельними методами
Якщо , то цільова функція описується у векторному вигляді як
. (1)
Для сумісної системи цільова функція буде мати єдиний мінімум, що дорівнює нулю. Для несумісної системи шуканий вектор вважається знайденим коли досягає мінімуму і стабілізується. Процедура мінімізації цільової функції, тобто обчислення результуючого вектора , , досягається за допомогою ітераційної градієнтної дії
(2)
де – коефіцієнт стабілізації; , – результуючі вектори на (к)-ій і (k+1)-ій ітераціях відповідно.
Формула (2), що дозволяє реалізувати ітераційну процедуру пошуку розв’язку систем лінійних алгебраїчних рівнянь в нейромережі, приймається у вигляді: , а процедура розв’язання систем лінійних алгебраїчних рівнянь в нейромережі зводиться в загальному випадку до мінімізації багаточлена
.
Обчислення градієнта цього багаточлена може виконати найпростіша двошарова мережа. Для цього матриця A подається на перший шар мережі, на другий шар подається транспонована матриця , а на зв'язки з вагами на першому шарі - постійний одиничний сигнал. Мінімізація цього багаточлена, а значить і розв’язання систем лінійних алгебраїчних рівнянь, може виконуватися у відповідності з (2). Таким чином, алгоритм розв’язування систем ліній/них алгебраїчних рівнянь в нейромережі має вигляд, представлений на рис. 3.
Рис. 3. алгоритм розв’язування систем лінійних алгебраїчних рівнянь в нейромережі
Модифікація методу дозволяє замість процедури безумовної мінімізації багаточлена використати процедуру умовної мінімізації з умовами для,
Така модифікація методу дозволяє практично повною мірою врахувати регуляризуючі властивості нейромережи і одержати стабільний розв’язок.
Загальна схема реалізації даного алгоритму та схема нейромережі в нотації MATLAB представлені на рис. 4 та рис. 5 відповідно. Simulink-схема для розв’язування чіткої систем лінійних алгебраїчних рівнянь показана на рис. 6 (для конкретності розглядається систему лінійних алгебраїчних рівнянь 5-го порядку).
Алгоритм розв’язування нечітких систем лінійних алгебраїчних рівнянь в нейромережі полягає у наступному. Нехай існує нечітка система лінійних алгебраїчних рівнянь відносно невідомого вектора з матрицею нечітких коефіцієнтів , (, ) і вектором нечітких вільних членів , де , , , , , , k=1,K – кількість компонентів у складі нечітких змін; , , – функція належності. Для одержання розв’язку розглядається нечітка система лінійних алгебраїчних рівнянь на -рівнях, тобто для k-ого - рівня ( ) формулюється система з m правил типу:
R1: if and then ,
де ,– матриці і вектор правих частин сформованих систем рівнянь.
Рис. 6. Simulink-схема нейромережи для розв’язання систем лінійних алгебраїчних рівнянь
Таким чином, одержуємо “k” чітких систем лінійних алгебраїчних рівнянь, які можуть мати лінійно залежні рівняння, що приводить до необхідності розв’язування недовизначеної системи лінійних алгебраїчних рівнянь (m<n), або перевизначеної чіткої систему лінійних алгебраїчних рівнянь, що складається з (mxk) рівнянь з n невідомими. В обох випадках процес зводиться до описаного вище алгоритму розв’язування систем лінійних алгебраїчних рівнянь. Дослідження показали, що ці шляхи рівнозначні (в залежності від умови задачі).
У роботі виконана оцінка впливу процесу регуляризації в нейромережі на одержання стійкого наближеного розв’язку.
На основі пропонованих методів розв’язування чітких і нечітких систем лінійних алгебраїчних рівнянь розроблений програмний модуль, що забезпечує процес комп’ютерного розв’язування задач параметричної ідентифікації в умовах невизначеності.
Четвертий розділ присвячений методам та алгоритмам ідентифікації в умовах інформаційної невизначеності. Відомо, що в інтерполяційних моделях типу “чорний ящик” як математичну модель об'єкта можна використати поліном будь-якого виду і будь-якого порядку. Тобто для кожного об'єкта, що розглядається як “чорний ящик”, можна скласти не одну єдину, а нескінчену множину моделей, що мають однакові чи майже однакові зовнішні поводження. В роботі в якості інтерполяційної моделі об'єкта використано поліном Колмогорова-Габора
, (3)
де – значення виходу в момент часу k при обліку p попередніх значень ( ).
Для прогнозування наступного значення випадкової функції за два попередніх значення і використовують поліном (3), який для має вигляд:
. (4)
У загальному випадку ідентифікація за допомогою полінома Колмогорова-Габора передбачає два головних етапи:
1) визначення коефіцієнтів полінома за допомогою розв’язування систем лінійних алгебраїчних рівнянь (прямий метод), чи підбір ваг поліноміальної мережі за методом зворотного поширення;
2) реалізація фільтрів для прогнозування.
Як раніше зазначалось, у більшості задач прямої параметричної ідентифікації мають місце несумісні системи, розв’язання яких традиційними математичними методами неможливо. Запропонований у розділі 3 метод розв’язування систем лінійних алгебраїчних рівнянь в нейромережі з можливостями регуляризації, є ефективним методом, перевагами якого є інваріантість до ступеня обумовленості матриці системи рівнянь, а також можливість без принципових ускладнень розв’язувати сумісні і несумісні систем лінійних алгебраїчних рівнянь великої розмірності.
У роботі застосовано та досліджено прямі методи обчислення коефіцієнтів рівняння (4) шляхом розв’язування систем лінійних алгебраїчних рівнянь за допомогою нейромережі. Для формування систем лінійних алгебраїчних рівнянь 6-ого порядку потрібно вісім значень передісторії (приклад розглянутий в роботі).
Загальний алгоритм реалізації фільтрів, що прогнозують, показаний на рис. 7, а. На рис. 7, б приведені результати прогнозування на підставі полінома Колмогорова-Габора для множини пар (x, y) {(1;0.00314), (2;0.0628), (3;0.0941), (4;0.1253), (5;0.1564),(6;0.1874), (7; 0.2181), (8; 0.2487)} (відзначимо для сформованих нормальних рівнянь Гауса det(A)=10e-34).
При розв’язуванні задач ідентифікації в умовах інформаційної невизначеності елементами матриці A є нечіткі змінні чи нечіткі числа. Для прогнозування нечітких часових рядів за допомогою поліномів Колмогорова-Габора складають нечітку систему лінійних алгебраїчних рівнянь. Для окремої ділянки окреме рівняння має вигляд:
, (5)
де m = 2,3,4,…; i=1,2,…,5 – нечіткі коефіцієнти, , j=1,…,J; –нечіткі передісторії, що використовуються для прогнозу значення , ;
p = {1,m}, – функція належності нечітких коефіцієнтів і нечіткого часового ряду .
Розв’язок нечіткої системи лінійних алгебраїчних рівнянь дозволяє визначити нечіткі коефіцієнти Підставивши ці коефіцієнти в головне прогнозне рівняння (5) і користаючись методами нечіткої арифметики для заданих значень , одержуємо значення . На рис. 7, в приведені результати прогнозування нечітких часових рядів за допомогою полінома Колмогорова-Габора.
а) б) в)
Рис. 7. а) - загальна схема реалізації прогнозуючого фільтра Колмогорова-Габора; б)- функція, для якої створені рівняння для визначення коефіцієнтів полінома, визначення прогнозних значень та значення похибки у відсотках; в) - результати прогнозування нечіткого часового ряду за допомогою полінома Колмогорова-Габора (* – прогнозні значення).
В п’ятому розділі розглянуті методи і алгоритми, які повинні забезпечити ефективне функціонування тих складових інформаційної технології, що розробляється, які відповідають за прогнозування в умовах інформаційної невизначеності. Основна увага приділена теоретичним особливостям розв’язування задач прогнозування в нейромережі. Показано, що одним із недоліків, властивим існуючим алгоритмам прогнозування в нейромережі, є те, що вони працюють, як правило, з “чистими” числовими даними. Однак в реальних задачах дані повинні розглядатися в загальному випадку, тобто слабко структурованими чи навіть неструктурованими, такими, про які відома їх належність до визначеного типу. Наприклад, дані можуть бути заданими інтервально чи у вигляді тверджень типу “х = близько до ”, тобто у вигляді нечітких змін (чи нечітких чисел) або лінгвістичних змінних.
Найбільш розповсюдженим підходом до аналізу при відсутності адекватної математичної моделі є обробка часових рядів {x(1), x(2),…,x(t–1),x(t)}, які являють собою інформацію про поводження об'єкта в минулому. Наявність часового ряду x = {x(k)}, k = 1,...t дає можливість побудувати систему рівнянь, що відтворює поводження об'єкта, чи дати прогноз майбутніх значень {x(t+1), x(t+2),…}. У дисертаційній роботі досліджені стандартні принципи прогнозування структурованих часових рядів на підставі методів занурення в нейромережі, ідеологічні основи яких можна сформулювати у вигляді наступної задачі: знайти таку функцію (n – розмірність вектора x; – довжина часового ряду; k– кількість незалежних змінних.), яка дозволила б розраховувати x(t+d), знаючи x(t) до моменту часу t і визначену кількість час-незалежних змінних (вектор екзогенних змінних, наприклад обсяг кімнати, в який вимірюється температура, може бути вирішальним фактом у деяких випадках), тобто знайти
,
знаючи x(t), x(t–1), x(t–2),…,x(t–), де d – лаг прогнозування. Типовий випадок d=1, що означає обчислення наступного значення (d може приймати будь-яке значення більше за одиницю).
Задачу прогнозування часового ряду можна розглядати як задачу апроксимації. Нейромережа апроксимує будь-яку придатну функцію і може бути реалізована багатошаровим персептроном (MLP) або мережею типу RBNF. Оцінка якості прогнозу обчислюється як сума похибок прогнозування за N прогнозів (використовуючи тестові послідовності з виміром похибки за допомогою функцій відстані, наприклад, функцій відстані Евкліда чи ін.). На рис. 8, а представлена схема мережі прямого поширення з часовим вікном (нелінійна авторегресійна модель), що досліджувалася в роботі.
Варто враховувати ту обставину, що випадковість у виборі початкових значень синаптичних ваг може приводити теоретично до того, що результати прогнозування нейромережі при навчанні на одній і тій же вибірці будуть у загальному випадку відрізнятися. Вплив цього недоліку можна суттєво зменшити, організувавши групи нейромереж, що складаються з декількох мереж, можливо різних типів.
Дослідження показали, що збільшення ширини вікна занурення ряду приводить до зниження передбачуваності, коли підвищення розмірності входів уже не компенсується збільшенням їхньої інформативності. Недостатньо широке вікно занурене в лаговий простір не здатне надати таку інформацію, що, природно, знижує ефективність передбачення. Тому в роботі основну увагу приділено алгоритмам прогнозування слабко структурованих часових рядів на підставі методів занурення в нейромережі.
Для прогнозування нечітких часових рядів введені апріорні допущення про інваріанти динаміки часового ряду. Такими інваріантами, зокрема, можуть бути:
а) характер функції належності залишається незмінним протягом усього часу існування часового ряду;
б) прогнозування нечіткого часового ряду можливо виконати незалежно окремо для x, rx і x (у такому випадку маємо три групп нейромереж з відповідними рядами і ,, прогноз значень кожного ряду виконується автономно).
Якщо вважати (для спрощення аналізу), що буде незмінною протягом , то задачу прогнозування можна виконати двома шляхами:
а) створити окремі незалежні групи нейромережі для прогнозування значень кортежу ;
б) розширити множину вхідних ознак, тобто всі елементи попереднього кортежу є компонентами вхідного вектора.
Основна проблема на етапі навчання є вибір функції похибки, що мінімізується для трьох виходів . В роботі для навчання нейромережі використано функцію
,
де індекс “d”– дійсне значення, яке враховує особливості процедури прогнозування.
а) б) в)
Рис. 8.а)- нейромережа прямого поширення з часовим вікном; б)- графіки вихідної і прогнозованої функцій та похибки (у відсотках); в) - залежність цільової функції від кількості епох.
а) б) в)
Рис.9. а) - нечіткий часовий ряд ; б) - загальна схема нейромережи для прогнозування з толерантними функціями належності; в) - результати прогнозування нечіткого часового ряду (* – прогнозні значення).
У шостому розділі розглянуть питання організації програмних засобів обробки вихідних даних при розв’язанні широкого класу задач ідентифікації і прогнозування фізичних та інформаційних процесів.
Для створення програмних засобів використовувалась мова моделювання MATLAB. Виходячи з необхідності здійснення розроблених алгоритмів, знадобилося розширення алгоритмічного забезпечення системи MATLAB, зокрема доповнення функціональних можливостей низки тулбоксів (Toolboxes).
У цілому запропоновані програмні засоби представляють собою певну інформаційну систему, організація і функціонування якої здійснює технологічний процес опрацювання інформації при вирішенні з повному обсязі задач, що розглядаються у роботі у автоматизованих режимах.
Структура інформаційної системи вміщує в собі п’ять основних блоків: попередньої обробки вхідних даних; ідентифікації; прогнозування за допомогою поліномів Колмогорова-Габора; прогнозування за методу занурення; інтерпретації результатів.
У додатках вміщені: тексти програм (десять головних програмних модулів), які реалізують запропоновані методи та алгоритми і за допомогою яких отримані результати досліджень в розділах 2-5; акти про впровадження результатів дисертаційної роботи.
На базі нейромережевих принципів обробки інформації створено діючий програмний комплекс (програмно-інформаційну систему) на загальновідомій мові програмування та моделювання MATLAB/Simulink, що реалізує запропоновані методи та алгоритми обробки інформації і дозволяє ефективно розв’язувати складні задачі ідентифікації та прогнозування процесів з нечіткими вхідними даними.
ВИСНОВКИ
У дисертації отримано теоретичний розвиток і новий розв’язок наукової задачі створення сучасних засобів та інформаційної технології ідентифікації та прогнозування для вирішення задач управління складними процесами та об’єктами в умовах інформаційної невизначеності. Розв’язання даної задачі полягає в розробці та застосуванні нейромережевих алгоритмів ідентифікації та прогнозування, які базуються на реалізації операцій нечіткої арифметики, розв’язуванні чітких і нечітких систем лінійних алгебраїчних рівнянь з сингулярною або виродженою матрицею, дослідженні впливу природної регуляризації в нейронних мережах на отримання сталих розв’язків, розробці та дослідженні методів прогнозування шляхом занурення (чітких та нечітких числових рядів) в нейромережі та створенні методів ідентифікації для моделей типу “чорний ящик” з поліноміальною структурою. Отримані результати складають науково обґрунтовану та практично випробувану основу для комп’ютерного розв’язання задач управління в умовах невизначеності і дозволяють забезпечити суттєве підвищення ефективності роботи складних систем управління.
Основні результати дисертаційної роботи полягають у наступному.
1. Досліджено проблему управління складними об’єктами в умовах інформаційної невизначеності, показано, що вона відноситься до класу слабко структурованих задач, розв’язання яких залежить від типу об'єкта автоматизації і можливостей його дослідження, характеру невизначеностей і можливостей моделювання об'єкта. Встановлено, що характерною рисою таких об'єктів є неможливість (чи вкрай обмежена можливість) їх експериментального дослідження в реальному часі і для управління ними необхідно використовувати розв’язки, які одержані шляхом моделювання.
2. Показано, що найбільш придатною формою моделювання об'єктів в умовах невизначеності є інформаційні моделі, зокрема, моделі типу “чорний ящик”, та представлення об'єкта у вигляді системи “if-then-else” правил, що зв'язують вхідні та вихідні вектори даних. Встановлено, що моделі типу “чорний ящик” в умовах інформаційної невизначеності допускають представлення у вигляді слабко структурованих часових рядів, а система “if-then-else” правил може бути представлена моделями в операторному вигляді (), причому оператор F[*] може розглядатися в узагальненому виді, зокрема, як система лінійних алгебраїчних рівнянь (в тому числі і слабко структурована). Вектори доцільно розглядати як нечіткі множини. Встановлено, що згадані інформаційні моделі допускають досить адекватне наближення за допомогою нейромережі.
3. Показано, що вирішення задач моделювання, ідентифікації та прогнозування в умовах інформаційної невизначеності зводиться до виконання операцій нечіткої арифметики. Однак застосування принципу нечіткого розширення має певні обмеження, які полягають у тому, що при виконанні арифметичних операцій над нечіткими змінними, які не є унімодальними, результат також не є унімодальним і його подальше використання не дозволяє, по-перше, приймати об'єктивне рішення, по-друге – у багатомісних ітераційних процедурах губиться семантичний зміст операції, з'являється висока ймовірність одержання помилкового результату. Встановлено, що найбільш раціональною є комп’ютерна реалізація операції нечіткої арифметики за матричним принципом з використанням нейромереж, що дозволяє серед множини результатів одержати унімодальний результат, який з найбільшою ймовірністю визначає інтервал можливих значень і окреме значення, що з максимальним значенням функції належності представляє результат операції.
4. Розроблено алгоритм виконання операції нечіткої арифметики в нейромережній реалізації, який орієнтовано на побудову відповідних програмних модулів і включає наступні етапи:
§ реалізація принципу нечіткого розширення і створення матриці результату;
§ реалізація принципу “переможець одержує все” за значенням функції належності і навчання нейромережи і для визначення значення , q = 1, m чи (q = 1,…,n) за критерієм min |Qj–Q*|, де – Q* критерільне (дефазіфіковане) значення результату.
5. Розроблено алгоритм розв’язання системи лінійних алгебраїчних рівнянь в нейромережі, який дозволяє одержати стійкий наближений розв’язок для практичної більшості випадків завдання матриці і правих частин системи рівнянь. Неодиничність отриманих рішень може бути усунута шляхом використання апріорної інформації про шуканий розв’язок і завади. Притаманна нейромережі властивість регуляризації, яка дозволяє відшукувати розв’язки в околиці точки розв’язку, стабілізує роботу мережі при визначенні наближеного стійкого розв’язку системи лінійних алгебраїчних рівнянь з сингулярною матрицею. Запропоновано, як один із способів розв’язування системи лінійних алгебраїчних рівнянь в умовах невизначеності, формування системи нечітких лінійних алгебраїчних рівнянь, розв’язок якої варто шукати як на рівні окремих приватних чітких систем, сформованих на відповідних -рівнях, так і на рівні чіткої перевизначеної системи. Проведені дослідження підтвердили високу ефективність алгоритмів визначення стійких наближених розв’язків системи лінійних алгебраїчних рівнянь в нейромережі для практичної більшості випадків невизначеності в завданні параметрів системи.
6. Розроблено алгоритм прогнозування слабко структурованих часових рядів, значення яких можуть бути задані у вигляді нечітких змінних (чи нечітких чисел), і показана доцільність використання традиційних для нейромереж методів, зокрема, методу занурення, розширивши вхідну множину таким чином, щоб вона включала всі компоненти групи, яким відображається нейромережа, що застосовується. Досягнуто підвищення точності прогнозування структурованих часових рядів за рахунок застосування методології, запропонованої для нечітких рядів. Для цього необхідно вхідні множини (робочу, тестову і валідаційну) розширити за рахунок включення до них значення розмаху вибірки (максимальне і мінімальне значення), а також накласти додаткові обмеження, згідно яких
розмах вибірки повинен бути стабільним.
7. Розроблено алгоритм ідентифікації об'єктів, значення пар “вхід-вихід” яких представлені як нечіткі часові ряди, за допомогою полінома Колмогорова-Габора, представивши кожен компонент ряду як кортеж, що складається з компонентів, що характеризують терми множин і функцію належності. Для –функції цей кортеж складається з трійки , де a – мода, – права і ліва нечіткості. Застосування полінома Колмогорова-Габора дозволяє вирішити задачу ідентифікації в загальному випадку (незалежно від виду функції належності).
8. Розроблені моделі та алгоритми реалізовано у вигляді інформаційної технології реалізована на внутрішній мові пакета математичного моделювання MATLAB/Simulink, яка використана при виконанні науково-дослідних робіт 947-ДБ.00 “Розробити програмне забезпечення для ідентифікації об’єктів складних технічних систем в умовах невизначеності” (Національний авіаційній університет), № держ. Реєстрації 0100U003953), а також впроваджена в навчальний процес для проведення лабораторних та практичних занять з дисциплін: “Теорія прийняття рішень”, “Комп’ютерні системи підтримки прийняття рішення” (Європейській університет фінансів, інформаційних систем, бізнесу та менеджменту); “Інформаційні технології математичних обчислень в умовах невизначеності” (Національній авіаційній університет).
ОСНОВНІ ПУБЛІКАЦІЇ
1 Кравец П.И., Бенамеур Лиес. Интеллектуальное управление многомерным дискретным нелинейным объектом в условиях неполной и нечеткой информации. Вісник НТУУ “КПІ” Інформатика, Управлення та Обчислювальна Техніка, № 35, стр. 22-31. Київ 2001.
2 Мінаєв Ю.М., Філімонова О.Ю., Давиденко В.В., Криксунов Є.Е., Бенамеур Лиес. Операції нечіткої математики на підставі генетичних та еволюційних алгоритмів //Радіоелектроніка, Інформатика, Управління. № 2, 2000 р. Запорожье, стр. 97-101.
3 Мінаєв Ю.М.,Філімонова О.Ю., Бенамеур Лиес, Ярош Р.А. Нейромережеві моделі розв'язку систем нечітких алгебраїчних рівнянь та їхня реалізація в системі моделювання MATLAB/ Simulink. Вісник НТУУ “КПІ” Інформатика, Управлення та Обчислювальна Техніка, № 36, стр. 143-152. –Київ 2001
4 Мінаєв Ю.М., Філімонова О.Ю., Бенамеур Лиес. Алгоритм та програми розв'язування систем нечітких алгебраїчних рівнянь та їхня реалізація в системі моделювання MATLAB/ Simulink. Вісник Національного Авіаційного Університету, № 2(9), Київ 2001, стр. 186-195.
5 Минаев Ю.Н., Бенамеур Лиес. Алгоритм и программа прогнозирования слабо структурированных временных рядов на основании методов погружения в нейросетевом логическом базисе среды MATLAB/Simulink. Вісник НТУУ “КПІ” Інформатика, Управлення та Обчислювальна Техніка, № 37, стр. 25-37. Київ 2002.
6 Минаев Ю.Н., Бенамеур Лиес. Ідентифікація складних об’єктів в умовах невизначеності в нейромережному логічному базисі в середовищі MATLAB/Neural Network/Simulink. // Збірник наукових праць “Інформаційні технології в економіці, менеджменті і бізнесі. Проблеми науки, практики і освіти”, Європейський університет, Київ – 2001.
7 Мінаєв Ю.М., Бенамеур Лиес, Філімонова О.Ю., Гузій М.М. Ідентифікація атак на комп’ютерні мережі в нейромережі. –Вісник НАУ, № 2(13), 2002 р. стр. 121-132.
8 КравецьП.І, Бенамеур Лиес (Київ, Україна). Інтелектуальне керування багатозв’язними нелінійними об’єктами в умовах неповної і нечіткої інформації. Міжнародна конференція з управління автоматика – Львів 2000, стр. 134-139.
9. Мінаєв Ю.М., Філімонова О.Ю., Бенамеур Лиес. Особливості розв'язку систем нечітких алгебраїчних рівнянь в нейромережному логічному базисі. //Міжнародна науково технічна конференція “АВІА–2000” Київ, 4-6 жовтня 2000р.
10. Минаев Ю.Н., Бенамеур Лиес. Алгоритм и программа прогнозирования слабо структурированных временных рядов на основании методов погружения в нейросетевом логическом базисе среды MATLAB/Simulink. // VII Міжнародна наукова-практична конференції “Інформаційні технології в економіці, менеджменті і бізнесі. Проблеми науки, практики і освіти”(Європейський університет, Київ 2002).
11. Мінаєв Ю.М., Бенамеур Лиес, Гузій М.М., Давиденко В.В. Виявлення атак в комп’ютерних мережах в нейромережному логічному базисі в системі моделювання MATLAB/Simulink. Тезис доповідні міжнародної науково-технічної конференції. “АВІА–2002” Київ , 22-24квітня 2002 р.
АНОТАЦІЯ
БЕНАМЕУР Лиес. “Нейромережеві методи і засоби ідентифікації та прогнозування процесів управління в умовах невизначеності”. – Рукопис.
Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 05.13.06 – “Автоматизовані системи управління та прогресивні інформаційні технології”. – Інститут проблем моделювання в енергетиці ім. Г.Є. Пухова НАН України, Київ, 2002.
У дисертації приведено теоретичне узагальнення і вирішення наукової задачі ідентифікації та прогнозування в умовах інформаційної невизначеності на основі нейромережних структур, що полягає в розробці нових алгоритмів, моделей та програмного забезпечення для розв’язання вирішення задач управління складними об’єктами та процесами, що автоматизуються. Розглянуто прямі методи, які пов’язані з розв’язком чітких та нечітких систем лінійних алгебраїчних рівнянь з сингулярною або виродженою матрицею в нейромережі. Запропоновано алгоритми розв’язання систем лінійних алгебраїчних рівнянь з нечіткими коефіцієнтами. Розроблено та досліджено методи та алгоритми реалізації операцій нечіткої арифметики в нейромережі, алгоритм ідентифікації об’єкта типу “чорний ящик” на основі полінома Колмогорова-Габора для умов інформаційної невизначеності, алгоритм прогнозування нечітких числових рядів на підставі прямих методів та методів занурення в нейромережу. Розроблені моделі та алгоритми реалізовано у вигляді інформаційної технології реалізована на мові пакета математичного моделювання MATLAB/Simulink
Ключові слова: інформаційна технологія, ідентифікація, прогнозування, умови невизначеності, нейромережа, нечітка арифметика, часові ряди, занурення, поліном Колмогорова-Габора, мінімізація.
АННОТАЦИЯ
БЕНАМЕУР Лиес. “Нейросетевые методы и средства идентификации и прогнозирования процессов управления в условиях неопределенности”. – Рукопись.
Диссертация на соискание ученой степени кандидата технических наук по специальности 05.13.06 – “Автоматизированные системы управления и прогрессивные информационные технологии”. – Институт проблем моделирования в энергетике им. Г.Е. Пухова НАН Украины, Киев, 2002.
Диссертация посвящена разработке, исследованиям и компьютерной реализации методов и средств идентификации и прогнозирования широкого класса процессов при решении задач управления в условиях информационной неопределенности и создании на их основе соответствующей информационной технологии.
Проведен анализ проблем управления сложными объектами и процессами в условиях информационной неопределенности (исходные данные об объекте представляются данными “мягких измерений”, нечеткими числами, лингвистическими и нечеткими переменными) и установлено, что основой, на которой могут быть получены управляющие решения, является оценка, прогнозирование и моделирование состояний объекта с применением принципа нечеткого расширения. Показано, что наиболее подходящими моделями объектов управления в условиях информационной неопределенности являются информационные модели типа “черный ящик” и система “if-then-else” правил, которые допускают представление, соответственно, в виде слабо структурированных временных рядов и системы четких и нечетких линейных алгебраических уравнений. Установлено, что решение задач идентификации и прогнозирования прямыми методами, связанных с определением параметров слабо структурированных временных рядов и решением системы четких и нечетких линейных алгебраических уравнений с сингулярной или вырожденной матрицей, наиболее предпочтительно реализовывать в нейросети, обладающим естественными регуляризационными свойствами.
Разработаны методы и алгоритмы реализации операций нечеткой арифметики в нейросети, позволяющие существенно
