Херсонський національний технічний університет

СЛОБОДЕНЮК ОЛЕКСАНДР ВОЛОДИМИРОВИЧ

УДК 681.51

СИСТЕМА ПІДТРИМКИ ПРИЙНЯТТЯ РІШЕНЬ

ПРИ МОДЕЛЮВАННІ ТА ПРОГНОЗУВАННІ НЕСТАЦІОНАРНИХ СТОХАСТИЧНИХ ПРОЦЕСІВ

05.13.06 – автоматизовані системи управління та прогресивні інформаційні технології

Автореферат

дисертації на здобуття наукового ступеня

кандидата технічних наук

Херсон – 2006

Дисертацією є рукопис.

Роботу виконано в Херсонському національному технічному університеті Міністерства освіти і науки України.

Науковий керівник: доктор технічних наук, професор Шарко Олександр Володимирович, Херсонський національний технічний університет МОН України, професор кафедри загальної та прикладної фізики.

Офіційні опоненти: доктор технічних наук, професор Ісаєв Євген Олексійович, Херсонський національний технічний університет МОН України, професор кафедри технічної кібернетики;

кандидат технічних наук, доцент Хошаба Олександр Мирославович, Вінницький національний технічний університет МОН України, доцент кафедри інформаційного менеджменту.

Провідна установа: Національний авіаційний університет МОН України, кафедра систем керування і метрології, м. Київ.

Захист відбудеться “4” липня 2006 р. o 10 годині на засіданні спеціалізованої вченої ради Д 67.052.01 в Херсонському національному технічному університеті МОН України за адресою: 73008, м.Херсон, Бориславське шосе, 24, корпус № 3.

3 дисертацією можна ознайомитись у бібліотеці Херсонського національного технічного університету МОН України, 73008 м. Херсон, Бориславське шосе, 24.

Автореферат розісланий “ 2 ” червня 2006 р.

Вчений секретар

спеціалізованої вченої ради В.О.Костін

ЗАГАЛЬНА ХАРАКТЕРИСТИКА

Актуальність теми. Складні системи різної природи – технічні, екологічні, економічні та фінансові – розвиваються в умовах впливу випадкових збурень різного характеру, що приводить до виникнення нестаціонарностей процесів – появи тренду та гетероскедастичності. Нестаціонарності супроводжуються, як правило, нелінійностями, що вимагає розвитку та застосування нестандартних підходів до моделювання та прогнозування процесів, що аналізуються. Для забезпечення високої адекватності математичних та статистичних моделей, а також високоякісних прогнозів необхідно критично аналізувати, розвивати і застосовувати існуючі методи, такі як методи на основі моделей авторегресії із ковзним середнім (АРКС), метод групового врахування аргументів, методи оптимального оцінювання та фільтрації, найближчого сусіда та багато інших. З іншого боку, суттєвого вдосконалення моделей та відповідних прогнозів можна досягти шляхом застосування нейронних мереж різних модифікацій, адаптування методів оптимальної фільтрації до нестаціонарних процесів, шляхом розвитку методів на основі теорії розпізнавання образів та нестандартних регресійних підходів до моделювання.

Проблеми математичного моделювання нестаціонарних процесів стають все більше актуальними також завдяки можливості розвитку комп’ютерних інформаційних технологій, зокрема систем підтримки прийняття рішень (СППР), які інтегрують в собі самі сучасні методи взаємодії комп’ютер – особа, що приймає рішення (ОПР), моделі та методи прийняття рішень, методи прогнозування та менеджменту процесів різної природи. Все це поєднується із зручним представленням результатів обчислень альтернативних варіантів прийняття рішень, адаптивним дружнім інтерфейсом, базою знань і даних. Аналізу, моделюванню та прогнозуванню процесів різної природи приділялась велика увага в роботах Є.В.Бодянського, О.Г. Івахненка, Є.О.Ісаєв, Ю.П.Лукашина, І.Г.Лук’яненко, Л.М.Любчика, О.А.Павлова, В.С.Степашка, В.М.Томашевського, та багатьох інших вчених. На сьогоднішній день, залишаються відкритими проблеми, пов’язані, зокрема, з моделюванням та прогнозуванням нестаціонарних процесів, наприклад, процесів зі змінною в часі дисперсією, процесів з випадковими змінами параметрів внаслідок впливу випадкових збурень різної природи та інші.

В дисертаційній роботі основна увага приділяється проблемам моделювання і прогнозування нестаціонарних процесів – процесів з трендами різного характеру та процесів зі змінною дисперсією (гетероскедастичні процеси). Запропоновано застосувати новий клас статистичних моделей – регресійні дерева, які адаптуються до нестаціонарностей та нелінійностей процесів. Розроблено та виконано аналіз методу моделювання та прогнозування процесів на основі узагальнених регресійних нейромереж та генетичними алгоритмами, які використовуються для оптимізації характеристик мережі. Створено алгоритм оптимальної фільтрації та прогнозування на основі фільтра Калмана, адаптованого до нестаціонарних процесів. Всі розроблені моделі та алгоритми прогнозування інтегровано в комп’ютерній інформаційній системі підтримки прийняття рішень, яка є зручним інструментом розв’язку задач аналізу та прогнозування процесів. Завдяки відкритій архітектурі системи вона постійно розвивається та розширюється новими функціями. Попит на застосування систем такого типу постійно зростає, оскільки подальший інтенсивний розвиток нових технічних систем, економіки та фінансів неможливий без застосування новітніх методів аналізу, прогнозування, керування та сучасних інформаційних технологій.

Зв’язок роботи з науковими програмами, планами, темами.

Основні задачі відповідають державним науково-технічним програмам, що сформульовані в Законах України “Про наукову і науково-технічну діяльність”, “Про національну програму інформатизації”, а також планам найважливіших науково-технічних робіт Міністерства освіти і науки України: 6 – Інформатика, автоматизація і приладобудування; 6.2.1. – Інтелектуалізація процесів прийняття рішень; 6.2.2.– Перспективні інформаційні технології і системи.

Робота виконувалась згідно з планами наукових досліджень кафедри загальної та прикладної фізики Херсонського національного технічного університету в рамках держбюджетної теми: “Розробка моделей та прогнозування нелінійних динамічних процесів і систем різноманітної природи” (№ державної реєстрації 0105U004214, відповідний виконавець Слободенюк О.В.)

Мета і завдання дослідження. Метою роботи є аналіз, побудова математичних моделей і функцій прогнозування для нестаціонарних стохастичних процесів різної природи і створення на їх основі інтелектуальної комп’ютерної інформаційної системи підтримки прийняття рішень при оперативному та стратегічному керуванні цими процесами.

Для досягнення поставленої мети були розвязані наступні задачі:

- Виконано аналіз проблем, пов’язаних з математичним моделюванням стаціонарних та нестаціонарних процесів різної природи, представлених часовими рядами; зроблено критичний огляд існуючих методів моделювання процесів з нестаціонарностями відносно дисперсії та тренду.

- Розроблено узагальнену технологію побудови математичних моделей нестаціонарних процесів на основі застосування регресійних дерев та встановлена можливість застосування цієї технології до реальних часових рядів, що описують технічні та фінансово-економічні процеси.

- Створено методику та алгоритм прогнозування нестаціонарних процесів на основі застосування узагальненої регресійної нейронної мережі та генетичних алгоритмів, які застосовано до оптимізації процесу навчання; досліджена можливість застосування цього алгоритму до прогнозування реальних процесів.

- Запропоновано алгоритм оцінювання та прогнозування стану нестаціонарних процесів на основі модифікованого фільтра Калмана та виконано його апробацію на модельних і експериментальних даних, який забезпечує отримання прийнятних оцінок прогнозів в умовах наявності випадкових змін параметрів досліджуваних процесів.

- Розроблено інтелектуальну комп’ютерну інформаційну систему підтримки прийняття рішень (ІСППР) при моделюванні та прогнозуванні нестаціонарних стохастичних процесів в технічних та інших системах, зокрема ризиків досягнення поставленої мети, які описуються моделями гетероскедастичних процесів.

- Виконано комп’ютерне моделювання запропонованих методів та алгоритмів моделювання і прогнозування з метою визначення можливостей їх практичного застосування та встановлення точності прогнозу.

Об’єкт дослідження: нестаціонарні процеси різної природи в технічних системах, технологіях, економіці, фінансах та інших галузях.

Предмет дослідження: статистичні і математичні моделі та методи прогнозування, методи математичного моделювання та комп’ютерна інформаційна систему підтримки прийняття рішень на основі цих методів.

Методи дослідження Для побудови статистичних моделей використані теорія ймовірностей і математична статистика; для побудови математичних моделей використаний аналіз часових рядів; теорія штучного інтелекту використана для побудови прогнозуючих нейромереж, а для навчання мереж застосована теорія еволюційних систем.

Достовірність результатів. Отримані в дисертаційній роботі результати обгрунтовані коректним застосуванням математичних методів системного аналізу, аналізу часових рядів, методів короткострокового та середньострокового прогнозування на основі нейронних мереж і регресійних методів та імітаційного моделювання.

Наукова новизна одержаних результатів полягає в наступному:

· отримано подальший розвиток метод регресійних дерев для описання нестаціонарних процесів, який забезпечує коректне описання процесів та формування функцій прогнозування з метою отримання якісного прогнозу; на його основі уперше запропоновано технологію моделювання і прогнозування динаміки розвитку процесів, яка відрізняється від відомих простотою застосування та узагальненням на нестаціонарні процеси різної природи.

· на основі генетичного програмування вперше розроблено метод проектування топологічної структури та ідентифікації центрів радіально-базисних функцій в узагальненій регресійній нейронній мережі (УРНМ); на основі цього методу розроблено нову інформаційну технологію побудови моделей гетероскедастичних процесів із використанням УРНМ, яка відрізняється високою точністю отримуваних моделей та якісним прогнозом дисперсії нестаціонарних процесів.

· Одержав подальший розвиток метода оцінювання та прогнозування стану нестаціонарних процесів на основі модифікованого фільтра Калмана, який забезпечує отримання якісних оцінок станів та прогнозів в умовах наявності випадкових змін параметрів процесів та впливу випадкових збурень.

· На основі інтегрованого застосування множини взаємодоповнюючих методів моделювання – регресійних моделей і дерев, модифікованого фільтра Калмана та узагальненої нейронної мережі і генетичного програмування уперше розроблено нову інформаційну технологію побудови математичних моделей стаціонарних і нелінійних відносно змінних нестаціонарних процесів, яка відрізняється від відомих можливістю автоматизованого вибору структури моделі із множини допустимих структур, вибору кращої моделі та якісного прогнозу за допомогою множини статистичних критеріїв.

· Вперше побудовано інтелектуальну комп’ютерну інформаційну систему підтримки прийняття рішень з відкритою архітектурою, яка забезпечує автоматизований вибір структур математичних моделей та оцінювання якісних прогнозів стаціонарних та нелінійних нестаціонарних процесів, представлених часовими рядами.

Практичне значення одержаних результатів. Розроблено узагальнену інформаційну технологію та ІСППР для побудови статистичних і математичних моделей стаціонарних та нестаціонарних процесів, представлених часовими рядами, яка характеризується системним підходом до побудови та аналізу моделей і дозволяє користувачу автоматизувати процес визначення структури моделей-кандидатів, вибирати кращу модель з множини оцінених та кращий прогноз за допомогою двох множин статистичних параметрів.

Побудовано математичні моделі для ряду реальних процесів, в тому числі, прогнозування параметрів трубопрокату, прогнозування основності шлаку, пасажиропотоків на авіатранспорті, інфляції та інших процесів.

Виконано порівняльний аналіз декількох методів прогнозування, на підставі чого вибирається кращий метод для прогнозування конкретних процесів за допомогою множини критеріїв якості прогнозу.

На основі розроблених технологій і запропонованих алгоритмів створено ІСППР при моделюванні та прогнозуванні технологічних та фінансово-економічних процесів, яка використовується для розв’язку реальних задач прогнозування та керування.

Розроблені програмні засоби використовуються в автоматизованій системі моніторингу і прогнозування економічних показників, зокрема у Відкритому акціонерному товаристві “Механічний завод”, яке займається виплавкою металовиробів, Відкритому акціонерному товаристві “Сталь - XXI” з виготовлення металовиробів, у Херсонському статистичному управлінні при держадміністрації для прогнозування економічних та фінансових показників.

Автором розроблено програмне забезпечення для розв’язування задачі знаходження оцінок параметрів нестаціонарних процесів та побудови прогнозів поведінки ряду, яке впроваджено в навчальний процес.

Особистий внесок здобувача. Всі наукові положення, результати, висновки і рекомендації дисертаційної роботи здобувачем отримані самостійно. Серед них: методи моделювання і прогнозування нестаціонарних процесів; математичні моделі технічних, технологічних, фінансових та економічних процесів; нова інформаційна технологія обробки даних за допомогою множини взаємодоповнюючих методів з метою побудови адекватних моделей процесів та якісних прогнозів; розробка та реалізація інформаційної системи підтримки прийняття рішень та її застосування до розв’язку реальних задач.

Апробація результатів роботи. Основні положення дисертаційної роботи доповідались та обговорювались на: Четвертій міжнародній конференціії ІОН – 2004 “Інтернет – освіта – наука – 2004” (м. Вінниця); Всеукраїнській науково-методичній конференції “Сучасні проблеми математичного моделювання, прогнозування та оптимізації ” (м. Київ – м. Кам’янець-Подільський) жовтень 2004 р.; Міжнародній конференції з управління “Автоматика-2000”, Міжнародній науково-технічній кон-фе-ренції “Приладобудування”, м. Симеіз, 18-23 вересня, 2000 р.; VIІ Міжнарод-ній нау-ково-практичної конференції “Наука і освіта – 2004” (м. Дніпропетровськ); Нау-ково-практичній конференції “Системний аналіз та інформаційні технології –2003”, (м. Київ); Міжнародній конференції “Інтелектуальні системи прийняття рішень та прикладні аспекти інформаційних технологій”, м.Євпаторія, Крим, 2005; Третій міжнародній науково-практичній конференції “Сучасні інформаційні та електронні технології”, 19-24 травня 2005 р., (м. Одеса); ІІІ-й Міжнародній науково-практичній конференції “Динаміка наукових досліджень 2004” (м. Дніпропет-ровськ) – 2004.; Моделі та інформаційні технології в управлінні соціально-економічними, технічними та екологічними системами, 2005 р., м.Луганськ.

Публікації. За матеріалами дисертаційної роботи опубліковано 20 друкованих робіт, з них 10 – у фахових наукових виданнях, перелік яких затверджений ВАК України, 1 монографія та 9 тез доповідей на науково-технічних конференціях.

Структура й обсяг роботи. Дисертаційна робота складається з вступу, 5-и розділів, висновків і додатків. Результати досліджень викладені на 169 сторінках друкованого тексту, з них 46 рисунків на 23 сторінках; 13 таблиць на 7 сторінках; бібліографія зі 125 найменувань на 21 сторінці; 4 додатки на 73 сторінках.

ОСНОВНИЙ ЗМІСТ РОБОТИ

Вступ дисертаційної роботи включає: актуальність теми і наукової задачі; зв’язок роботи з науковими програмами, планами, темами; мету і задачі дослідження; об’єкт, предмет і методи дослідження; наукову новизну і практичну значимість одержаних результатів; особистий внесок здобувача; інформацію про реалізацію, апробацію і публікацію результатів.

У першому розділі наведено огляд сучасних методів прогнозування на основі рівнянь авторегресії (АР) та АР з ковзним середнім (АРКС), наведено приклади побудови функцій прогнозування без розв’язків рівнянь АРКС та на основі їх розв’язків. Показано, що оцінки прогнозів, обчислені за допомогою такого підходу, є незміщеними та ефективними, тобто і при, де прогноз значення на кроків відносно го моменту часу; скінченна константа, значення якої визначається значенням дисперсії випадкового процесу ; символ математичного сподівання. В цьому розділі також розглянуто існуючі підходи до моделювання і прогнозування процесів з трендом (інтегровані процеси) і процесів із змінною в часі дисперсією (гетероскедастичні процеси). Виконано аналіз проблем, що виникають при моделюванні цих процесів, зокрема, показано, що існує необхідність автоматизованого вибору структури математичної моделі процесів з нестаціонарностями різних типів та застосування множини показників якості моделей та прогнозів, які дають можливість вибрати кращу оцінку прогнозу. Встановлено необхідність проектування та реалізації інформаційної системи підтримки прийняття рішень (СППР) при моделюванні і прогнозуванні нестаціонарних процесів. На основі виконаного аналізу проблем моделювання і прогнозування нестаціонарних процесів, а також створення СППР для розв’язку задач даного типу сформульовано постановку задачі дисертаційної роботи, яка включає необхідність розробки інформаційної СППР на основі нових методів моделювання та прогнозування нестаціонарних процесів, що пропонуються в дисертаційній роботі.

Другий розділ присвячено розробці методу прогнозування нелінійних нестаціонарних процесів на основі регресійних дерев. Модель на основі регресійного дерева представляє дані у вигляді ієрархічної структури, в якій листки дерева індукують нерівномірний розподіл фазового простору, на якому може бути задана кусочно-однорідна статистична модель. Кожному листу може відповідати скаляр або вектор які визначають нелінійну модель. Дерево будується рекурсивно для розв’язку таких задач як структурування нелінійної авторегресії, нелінійного прогнозування і кластеризації.

Нелінійний прогноз процесу при заданих вимірах реалізується як апроксимація за допомогою умовного середнього, індукованої деревом функції і емпіричної гістограми.

Тобто при маємо:

,

де - центроїди осередків розподілу , що відповідають листкам дерева; визначає 1-ий елемент вектора ; – з 2-го по -й елементи вектора, і – емпірична гістограма з аргументом .

За критерій складності моделі вибрано число листків кінцевого дерева. Для зменшення складності регресійного дерева застосовано локальну ортогоналізацію. Суть локальної рекурсивної ортогоналізації полягає у наступному. Нехай – матриця векторів -вимірної фазової траєкторії. Позначимо коваріацію як , а її сингулярне розкладання . Для кореневого вузла визначимо ортогоналізовану множину векторів :

.

Матрицю використовується замість для розподілу кореневого вузла на спадкові вузли. За допомогою сингулярного розкладання одержимо унітарну матрицю власних векторів. Ця унітарна матриця застосовується до для одержання еквівалентної, але некорельованої множини векторів:, де означає транспонування векторів . Застосування цієї процедури ортогоналізації до всіх гіперпрямокутників дає множину локальних поворотів координат, що переводять гіперпрямокутники в гіперпаралепіпеди. Загальна рекурсивна процедура переходу від рівня l до l+1 може бути записана в такий спосіб:, де.

Наведено приклади прогнозування тестових та реальних процесів. Виконано порівняльний аналіз методу на основі регресійних дерев з нейромережевим методом (персептрон, що навчається за методом зворотного поширення) та методом подібних траєкторій. Кращий результат прогнозування отримано за методом регресійних дерев з ортогоналізацією.

В третьому розділі наведено розробку методу прогнозування нестаціонарних (гетероскедастичних) процесів на основі штучних нейронних мереж, які навчаються за допомогою генетичного алгоритму. Розглянуто особливості структури та топології нейронних мереж, при цьому особлива увага приділена нейронним мережам з радіальним базисом. Для прогнозування гетероскедастичних процесів запропоновано узагальнену регресійну нейронну мережу.

Модель авторегресії для вихідного часового ряду визначається у вигляді:

.

На вхід нейронної мережі подаються квадрати залишків цієї моделі:

,

де N – довжина ряду, і ряд умовних дисперсій, який генерується по формулі:

,

або іншими методами. На вхід нейронної мережі надходять два часових ряди, а на виході формується прогнозне значення умовної дисперсії ряду на наступному кроці.

Модель гетероскедастического процесу має структуру:

,

де параметри q і p визначаються за допомогою автокореляційних функцій відповідних рядів. Наведене рівняння отримало назву узагальненої авторегресійної умовно гетероскедастичної (УАРУГ) моделі. Для розв’язку задачі вибору оптимальної архітектури радіально-базисної нейронної мережі (число нейронів схованого шару), а також оптимізації ваг і параметрів радіально-базисних функцій розроблено і застосовано модифікований генетичний алгоритм. Мережна модифікація генетичного алгоритму використовується для ідентифікації центрів радіально-базисних функцій, тобто вирішує задачі розпізнавання й кластеризації. Застосування генетичного алгоритму виявилось високоефективним з точки зору підвищення якості навчання нейронної мережі та точності прогнозування. Послідовність побудови моделі гетероскедастичного процесу за допомогою узагальненої регресійної нейронної мережі наведена на рис. 1.

Рис. 1. Послідовність побудови моделі гетероскедастичного процесу з використанням мережі УРНМ (другий спосіб).

Блок-діаграма модифікованого генетичного алгоритму представлена на рис. 2.

Формально алгоритм можна представити в такий спосіб:

,

де - набір даних, що складає з векторів розмірності p – елементи зовнішнього середовища; - матриця, що містить всі індивідууми мережі () – популяція хромосом; - матриця, що складається з N ніш (); - загальне число копій, створюваних у кожному поколінні (при активації мережі); - матриця елементів придатності; - матриця елементів подібності; - число кращих індивідуумів, що відбираються із для копіювання схрещування й мутації; - відсоток поліпшених індивідуумів, що відбираються з популяції копій для наступної обробки; - граничний коефіцієнт загибелі або стимуляції індивідуума в залежності від його придатності; - граничний коефіцієнт стискування популяції; - фактор, що регулює число копій відібраних індивідуумів; - об’єм даних для розпізнавання.

Процес стискування популяції приводить до того, що подібні індивідууми витісняють один одного з однієї ніші й гинуть. Таким чином, у ніші залишається тільки один індивідуум, і популяція скорочується (стискується) у розмірах.

Рис. 2. Блок-діаграма мережної модифікації генетичного алгоритму

Покрокова реалізація алгоритму наведена нижче.

Крок 1. Ініціалізація. Генерувати початкову популяцію індивідуумів

де I – простір індивідуумів, тобто множина всіх можливих структур, що представляють хромосому; – підмножина індивідуумів популяції; t – номер покоління; - початкове число вузлів мережі.

Крок 2. Визначення придатності. Для кожного індивідуума Chj Cht обчислити значення придатності за допомогою однієї з метрик D:.

Крок 3. Селекція. Вибрати підмножину індивідуумів з найвищою придатністю ().

Крок 4. Копіювання. Одержати популяцію копій з.

Крок 5. Кросинговер. Одержати популяцію схрещених копій з .

де - функція моделювання появи випадкової події із заданою ймовірністю pс, - оператор кросинговера.

Крок 6. Мутація. Одержати популяцію модифікованих копій з .

де - функція моделювання випадкової події із заданою ймовірністю pm, - оператор мутації, що випадково змінює один або кілька генів індивідуума.

Крок 7. Визначення придатності популяції змінених копій. Для кожного індивідуума обчислити значення придатності за допомогою однієї з метрик D:.

Крок 8. Селекція. Вибрати підмножину ніш (підмережа ніш) з індивідуумів з найвищою придатністю з популяції змінених копій.

Крок 9. Конкурентне видалення. Видалити ті індивідууми, придатність яких є нижчою порога придатності .

Це приведе до зменшення кількості індивідуумів і відповідно ніш, тобто.

Крок 10. Обчислити ступінь подібності індивідуумів, що залишилися в популяції ніш:

Крок 11. Конкурентне стискування. Видалити ті індивідууми з популяції ніш, чий ступінь подібності є вищим заданого порога :

Це приведе до повторного зменшення розміру популяції ніш ( ). Тепер у кожній з виділених ніш буде перебувати один індивідуум.

Крок 12. Конкатенація популяцій. З'єднати основну популяцію Cht і отриману популяцію ніш:

Крок 13. Обчислити ступінь подібності індивідуумів для всієї мережі

Крок 14. Мережне стискування. Видалити ті індивідууми з мережі, чий ступінь подібності є вищим заданого порога :

Крок 15. Розмаїтість репертуару. Замінити підмножина індивідуумів з найнижчою придатністю новими індивідуумами:

Крок 16. Перевірка умови зупинки. За обраним критерієм перевірити виконання умови зупинки алгоритму:

Опис особливостей ГА, призначених для розв’язку таких задач, наведено в третьому розділі дисертаційної роботи. Запропонований підхід апробовано на тестових та реальних процесах, представлених часовими рядами. В результаті комп’ютерного експерименту встановлено, що запропонований підхід дає можливість отримати високоякісні прогнози основної змінної та її дисперсії з низькими значеннями похибок прогнозів.

Четвертий розділ присвячено розробці методу прогнозування нестаціонарних процесів на основі модифікованого фільтра Калмана (ФК). Розглянемо лінійну систему:

де – вектор стану процесу; – вхідна шумова послідовність; – вимірюваний вектор вихідних змінних; – шум вимірів, де та – незалежні випадкові процеси білого шуму. Наведена система рівнянь описує процеси, які функціонують в умовах впливу випадкових збурень стану та шумів вимірів ( та , відповідно). Фундаментальною задачею, яка стосується таких процесів, є оцінювання і прогнозування станів, тобто визначення оптимальної оцінки вектора стану , виходячи з вимірів. Відповідну оцінку стану позначимо через.

Алгоритми рекурсивного оцінювання, які мінімізують середньоквадратичну похибку (МСКП), утворюють важливий клас алгоритмів оптимального оцінювання станів процесів і систем наведеного вигляду і застосовуються в багатьох галузях: обробка вимірів в технічних системах, автоматичному керуванні, економіці, фінансах та ін.

Коли випадкові процеси та гаусові, то алгоритм МСКП є лінійним фільтром, коефіцієнти якого можуть бути визначені в результаті розв’язку диференціального або різницевого рівняння Ріккаті (класичний ФК). Важливою характеристикою ФК є його збіжність у випадку, коли система є незалежною від часу і стабілізованою. Алгоритм ФК складається з наступних кроків:

1. Формування однокрокового прогнозу:

.

2. Формування фільтрованої змінної (оцінки стану):

.

Якщо матриці відомі, то обчислення коефіцієнтів еквівалентно задачі квадратичної оптимізації, яка може бути розв’язана аналітично. Однак, у багатьох випадках, існують невизначеності в параметрах моделі та/або в структурі моделі, зумовлені помилками ідентифікації. Ефективність алгоритмів оцінювання, розроблених без врахування цих невизначеностей, може бути істотно погіршена і навіть неприйнятною. Алгоритми оцінювання повинні забезпечувати несуттєве зниження ефективності у випадку наявності похибок моделювання.

В роботі запропоновано наступний алгоритм стійкого ФК:

Крок 1. Ініціалізувати, , , та; покласти.

Крок 2. Покладемо в момент часу:

.

Крок 3. Розв'язати оптимізаційну задачу відносно, та, (постановка задачі наведена в роботі).

Крок 4. Обчислити та спрогнозувати оптимальну оцінку стану.

Крок 5. Повторити кроки 2 і 3.

Зазначимо, що алгоритм стійкої фільтрації Калмана генерує незміщені оцінки за умови, що . В роботі також розглянуто зв'язок стійкого фільтра Калмана із звичайним класичним, а також виведено умову збіжності рекурсій алгоритму стійкого ФК. Розроблений алгоритм оптимальної фільтрації для нестаціонарних процесів забезпечує обчислення оптимальних оцінок стану процесу та прогнозів в умовах впливу випадкових збурень на процес, що спричиняють випадкові зміни його параметрів. Алгоритм відрізняється відносно невисокими обчислювальними витратами та надійністю оцінок. Аналіз оцінок, отриманих за допомогою запропонованого фільтра, свідчить про їхню високу якість у порівнянні із класичним фільтром, особливо в перехідному процесі функціонування фільтра.

В п’ятому розділі розглядається побудова інформаційної системи підтримки прийняття рішень для розв’язку задач моделювання і прогнозування нелінійних відносно змінних нестаціонарних процесів. Вона створена на основі розроблених методів моделювання і прогнозування, а також методів попередньої обробки статистичних даних у вигляді часових рядів, що характеризують динаміку технологічних, економічних та фінансових показників. Вона дозволяє користувачам з різними рівнями підготовки будувати високоадекватні й стійкі моделі розвитку процесів і короткострокові (1-5 кроків) прогнози їхнього поводження. Підвищення вірогідності оцінок прогнозів розвитку процесів різної природи досягається завдяки використанню нової технології обробки даних, що ґрунтується на концепції інтегрування класичних методів та методів на основі “м'яких” обчислень. Запропонована технологія передбачає використання принципу конкуренції (рис. 3) при виборі обчислювальної технології, а також порівняльний аналіз результатів оцінки ситуації з використанням традиційних алгоритмів і нейромережевих моделей, регресійних дерев та фільтру Калмана які в цілому забезпечують раціональну організацію технології обробки даних з метою отримання якісних оцінок прогнозу.

Система має гнучку архітектуру (рис. 4), що передбачає можливість підключення нових зовнішніх програмних модулів (предикторів) для моделювання й прогнозування нестаціонарних процесів з різними видами нестаціонарностей та нелінійностей. Інтерфейс забезпечує простоту використання системи, він відповідає принципам повноти, гнучкості, простоти та зручності і має розгалужену систему підказок. Результати обчислень можуть надаватись користувачеві в графічному виді (діаграми, графіки) або текстовому і числовому вигляді (таблиці). Для здійснення зручної навігації в програмі існує гнучка система меню й діалогових вікон. Оцінювання якості прогнозів здійснюється за допомогою наступних критеріїв (s – число кроків прогнозування):

-

;

-

-

-

-

-

Крім того, для вибору кращої моделі застосовується множина критеріїв адекватності, яка включає коефіцієнт детермінації, суму квадратів похибок моделі, статистику Дарбіна-Уотсона (де коефіцієнт автокореляції похибок моделі); статистику Стьюдента; інформаційний критерій Акайке і статистику Фішера. Спільне застосування цих критеріїв дає можливість вибрати кращу модель з множини оцінених кандидатів.

За допомогою даної системи виконано аналіз, моделювання і прогнозування ряду процесів, що відносяться до галузі промислових технологій, економіки та фінансів. Розроблена СППР впроваджена на деяких підприємствах, організаціях, а також в навчальний процес двох університетів. Зокрема, побудовані дві математичні моделі процесу виплавки феросплаву. Перша описує динаміку змінної – основності шлаку, а друга – дисперсію цієї змінної, як показник якості процесу. На основі отриманих математичних моделей вибраних процесів побудовані функції короткострокового прогнозування (на 1-5 кроків). Якість прогнозів, яка визначається за допомогою множини наведених вище статистичних критеріїв, у всіх випадках була високою, що забезпечено застосуванням взаємодоповнюючих методів прогнозування.

Рис. 3. Інформаційні потоки при реалізації принципу конкуренції.

Рис. 4. Структурна схема СППР

Інформаційна СППР знаходиться в стані постійного розвитку її функціональних можливостей з метою забезпечення високоякісного моделювання та прогнозування складних багатовимірних процесів з нестаціонарностями та нелінійностями різного характеру. Значна увага приділяється головній проблемі побудови математичних моделей на основі експериментальних даних – автоматизації процесу вибору структури моделей.

Висновки

1. Виконано аналіз проблем, пов’язаних з математичним моделюванням стаціонарних та нелінійних відносно змінних нестаціонарних процесів різної природи, представлених часовими рядами. Встановлено, що існує необхідність модифікації класичних підходів до моделювання та прогнозування, розробки нових методів на основі м’яких обчислень, а також інтегрування розроблених методів в інформаційну систему підтримки прийняття рішень.

2. Розроблено узагальнену технологію побудови математичних моделей нелінійних нестаціонарних процесів на основі застосування регресійних дерев та виконано апробацію цієї технології на модельних та реальних процесах, представлених часовими рядами, що описують технічні, технологічні та фінансово-економічні процеси.

3. Створено методику та алгоритм моделювання і прогнозування нелінійних нестаціонарних процесів на основі застосування узагальненої регресійної нейронної мережі та генетичних алгоритмів для оптимізації процесу навчання. Досліджено можливість використання розробленого алгоритму до прогнозування реальних процесів. Встановлено, що застосування запропонованої методики дає можливість суттєво підвищити якість прогнозів без значного підвищення обчислювальних витрат.

4. Розроблено алгоритм оцінювання та прогнозування стану нестаціонарних процесів на основі модифікованого фільтра Калмана. Алгоритм апробовано як на модельних синтетичних даних, так і на фактичних даних протікання металургійних та фінансово-економічних процесів. В результаті виконання ряду комп’ютерних експериментів встановлено, що запропонований алгоритм забезпечує отримання прийнятних оцінок прогнозів в умовах наявності випадкових змін параметрів процесів.

5. Виконано комп’ютерне моделювання запропонованих методів та алгоритмів моделювання і прогнозування з метою визначення їх адекватності та точності прогнозу. Встановлено, що їх інтегроване застосування дає можливість описувати та прогнозувати з високою точністю нестаціонарні процеси з нелінійностями відносно змінних. Для досліджених процесів різного рівня складності значення абсолютних похибок прогнозування в відсотках знаходились в межах 0,1 – 15,0 %.

6. Встановлено, що для автоматизованого вибору структури математичної моделі процесу, що досліджується, доцільно застосовувати множину критеріїв адекватності моделі та критеріїв якості прогнозів. При цьому можливе застосування інтегрованих критеріїв, що включають в себе у вигляді складових частин часткові статистичні критерії якості.

7. Розроблено комп’ютерну інформаційну систему підтримки прийняття рішень при моделюванні та прогнозуванні нелінійних нестаціонарних процесів, зокрема ризиків досягнення поставленої мети, які описуються моделями гетероскедастичних процесів. СППР відрізняється високою гнучкістю архітектури, розвинутим але простим в користуванні дружнім інтерфейсом, широкими можливостями обробки даних та графічного представлення остаточних результатів.

СПИСОК ОПУБЛІКОВАНИХ ПРАЦЬ за темою дисертації

1. Информационные технологии в моделировании экономических процессов переходного периода: Монография / Н.В.Подмогильный, П.И.Бидюк, И.И.Кова-лен-ко, А.В.Слободенюк. – Київ: Такі справи, 2000. – 232 с. (Підмогильний Н.В.– ви-ко-нав аналіз динаміки економічних процесів перехідного періоду; Бідюк П.І. – зробив коінтег-раційне моделювання виробничих процесів; Коваленко І.І.– зробив пошук і ста-тис-тичну обробку інформації; Слободенюк О.В. – зробив прогнозування вибраних процесів).

2. Коваленко И.И., Бидюк П.И., Слободенюк А.В. Адаптивный алгоритм по-вышения надежности точечных экспертных оценок // Адаптивні системи автома-тич-ного управління. – 2000. – № 3(23). – С. 132-136. (Автором запропоновано алго-ритм підвищення надійності експертних оцінок при виборі моделей динамічних процесів).

3. Рогальський Ф.Б., Слободенюк О.В. Підхід до розподілу ресурсів між альтернативними проектами //Вісник Херсонського державного технічного універ-ситету. – 2001. – № 1 (10). – С. 127-129. (Автором запропоновано використання нейронних мереж і генетичних алгоритмів при моделюванні економічних процесів).

4. Слободенюк А.В. Определение нелинейностей модели по измерениям входов и выходов процесса // Вестник Херсонского государственного технического университета. – 2001. – №3 (12). – С. 250-254.

5. Савенков О.І., Бідюк П.І., Слободенюк О.В. Алгоритм розподілу ресурсів між альтернативними проектами (ч.1) // Збірник наукових праць інституту проблем моделювання в енергетиці. – Вип. № 7. – 2001. – С. 147-155. (Автору належать розробка та реалізація алгоритму розподілу ресурсів).

6. Савенков О.І., Бідюк П.І., Слободенюк О.В. Прогнозування за допомогою різницевих рівнянь // Збірник наукових праць інституту проблем моделювання в енергетиці. – Вип. № 8. – 2001. – С. 115-121. (Диссертанту належить розробка алгоритму та проведення чисельних експериментів).

7. Савенков О.І., Бідюк П.І., Слободенюк О.В. Алгоритм розподілу ресурсів між альтернативними проектами (ч.2) // Збірник наукових праць інституту проблем моделювання в енергетиці. – Вип. № 12. – 2001. – С. 14-20. (Автору належить розробка та реалізація алгоритму розподілу ресурсів).

8. Слободенюк А.В. Постановка и методы решения задачи реализации проектов // Віс-ник Херсонського державного технічного університету. – 2002. – № 2 (15). – С. .

9. Бідюк П.І., Литвиненко В.І., Слободенюк О.В. Моделювання і прогно-зування гетероскедастичних процесів // Комп’ютерні технології, системний аналіз, моделюв. (Наукові праці МДГУ ім. П. Могили). – 2004. – Т.35 (22). – С. 24-39. (Автором розроблено гібридний еволюційний алгоритм, здійснено його програмну реалізацію).

10. Шарко А.В., Слободенюк А.В. Алгоритм прогнозування нестаціонарних процесів // Вісник Херсонського державного технічного університету. – 2004.. – № ). – С. 141-146. (Дисертанту належить розробка комп’ютерної системи для прогнозування).

11. Шарко А.В., Лубяный В.З., Слободенюк А.В. Синтез и применение обоб-щенной нейронной сети для прогнозирования гетероскедастических процессов // Вісник Херсонського державного технічного університету. – 2005. – № 1(21). – С. . (Автору належить розробка методу синтезу та навчання узагальненої регресійної нейронної мережі для прогнозування гетероскедастичних процесів).

12. Слободенюк А.В. Применение гибридной системы поддержки принятия решения финансово-экономических показателей // Вісник Східноукраїнського національного університету ім. В.Даля. – 2005 с. – №5(87) – С.181-186.

13. Коваленко И.И., Бидюк П.И., Слободенюк А.В. Информационные техно-ло-гии управления техническими проектами на основе эвристических методов / Меж-дунар. конф. “Автоматика”, 2000, м.Севастополь – С. 249-252. (Диссертантом запро-по-новано використати для описання стохастичного тренду модель випадкового кроку).

14. Савенков А.И., Резниченко В.Н., Бидюк П.И., Слободенюк А.В. Оп-реде-ление структуры и адекватности модели в задаче идентификации нелинейных сис-тем по измерительным данным // Междунар. конф. “Приборостроение”, – Симеиз, 2000. – С. 399-403. (Бідюк П.І. та Савенков А.І. – запропоновано метод ідентифікації на основі експерементальних данних; Слободенюк О.В.– розробив алгоритм ідентифікації на основі запропоновоного методу; Резніченко В.М. – забрав експерементальні данні і пробив чисельну перевірку алгоритма).

15. Слободенюк О.В. СППР при моделюванні і прогнозуванні нестаціонарних фінансово-економічних процесів / НПК “Системний аналіз та інформаційні технології”, – К., 2003. – С. 101-102.

16. Слободенюк О.В. Прогнозування прийняття рішень в технології управлін-ня методом регресій них дерев. //Матеріали VIІ Міжнародної науково-практичної конференції “Наука і освіта - 2004”. –Дніпропетровськ, 2004. –Т.72. – С. 51-53.

17. Слободенюк А.В. Прогнозирования нестационарных временных рядов с по-мощью нейронных сетей // Матеріали ІІІ Міжнародної науково-практичної конфе-ренції “Динаміка наукових досліджень 2004”. – Дніпропетровськ, 2004. –Т.55. – С. 38-41.

18. Бідюк П.І., Литвиненко В.І., Слободенюк О.В. Методи прогнозування ди-на-міки часових рядів //Збірник наукових праць Всеукраїнської науково-методичної конференції “Сучасні проблеми математичного моделювання, прогнозування та оптимізації ” – Київ–Камянець-Подільський, 2004. – С. 80-88 (Автором побудовано функції прогнозу дисперсії як міри ризику на основі розв’язку рівнянь при прогнозуванні реальних часових рядків).

19. Слободенюк О.В. Використання регресійних дерев для опису часового ряду / Міжнар. конф. “Інтелектуальні системи прийняття рішень та прикладні аспекти інформаційних технологій”. – Євпаторія, 2005. – С. 147-150.

20. Слободенюк А.В. Методика обучения обобщенной регрессионной нейрон-ной сети при помощи генетического алгоритма // Труды пятой международной научно-практической конференции “Современные информационные и электронные технологии”. – Одесса, 2005. – С. 146.

АНОТАЦІЯ

Слободенюк О.В. Система підтримки прийняття рішень при моделюванні та прогнозуванні нестаціонарних стохастичних процесів. – Рукопис.

Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 05.13.06 – автоматизовані системи управління та прогресивні інформаційні технології – Херсонський національний технічний університет, м.Херсон, 2006 р.

Дисертацію присвячено проблемі побудови систем підтримки прийняття рішень при моделюванні та прогнозуванні нелінійних нестаціонарних процесів, що описуються часовими рядами. Досліджено різні підходи до автоматизації вибору класу і структури моделей, які описують дані ряди. Запропоновано узагальнену технологію побудови регресійних моделей на основі часових рядів, яка дозволяє користувачу оперативно визначати структуру моделей-кандидатів та вибирати кращу модель з множини оцінених. В роботі запропоновано методи моделювання та прогнозування на основі регресійних дерев, нейронних мереж та генетичних алгоритмів і модифікованого фільтра Калмана. Запропоновано технологію побудови моделей нестаціонарних гетероскедастичних процесів, яка забезпечує отримання моделі, адекватної за множиною статистичних параметрів та вибір кращого прогнозу за множиною статистичних критеріїв якості. Побудовано математичні моделі ряду технологічних та фінансово-економічних процесів, які використано для короткострокового прогнозування. Проведено порівняльний аналіз декількох методів прогнозування на основі збудованих моделей. Розроблено архітектуру та створено СППР при моделюванні та прогнозуванні нестаціонарних стохастичних процесів, яка відрізняється гнучкою архітектурою, простим зручним інтерфейсом та широкими можливостями графічного представлення результатів.

Ключові слова: система підтримки прийняття рішень, нестаціонарні процеси, комп’ютерне моделювання, методи прогнозування, регресійні моделі і дерева, нейронні мережі, умовно гетероскедастичні процеси, фільтр Калмана, оцінювання параметрів.

АННОТАЦИЯ

Слободенюк А.В. Система поддержки принятия решений при моделировании и прогнозировании нестационарных стохастических процессов. – Рукопись.

Диссертация на соискание ученой степени кандидата технических наук по специальности 05.13.06 – автоматизированные системы управления и прогрессив-ные информационные технологии – Херсонский национальный технический университет, г. Херсон 2006 г.

Диссертация посвящена решению проблемы создания компьютерной инфор-мационной системы поддержки принятия решений при моделировании и прог-нозировании нелинейных нестационарных стохастических процессов различ-ной природы, которые описываются временными рядами. Выполнен анализ проблем, связанных с математическим моделированием стационарных и нестационарных процессов различной природы, представленных временными рядами. Сделан критический обзор существующих методов моделирования нестационарных процессов относительно дисперсии и тренда, что позволяет определять направления дальнейших исследований относительно моделирования нестационарных процессов.

В работе предложена обобщенная технология построения регрессионных моделей по временным рядам, которая позволяет пользователю оперативно определять структуру моделей-кандидатов и выбирать лучшую модель из множества оцененных. Предложенная технология отличается универсальностью применения и разрешает создавать математическое описание стационарных и нестационарных процессов с дальнейшей целью оценивания высококачественных краткосрочных и среднесрочных прогнозов.

Предложенная обобщенная технология позволяет пользователю оперативно определять структуру моделей-кандидатов и выбирать лучшую модель из множества оцененных. Для выбора модели используются следующие критерии: статистика Стьюдента, коэффициент детерминации, сумма квадратов погрешностей модели, информационный критерий Акайке, критерий Байеса-Шварца, статистика Дарбина-Уотсона и статистика Фишера.

Предложен модифицированный сетевой генетический алгоритм, предназначенный для синтеза топологии нейронной сети и идентификации центров радиально-базисных функций. С помощью данного алгоритма синтезируется обобщенная регрессионная нейронная сеть, которая отличается улучшенными вычислительными характеристиками и успешно используется для математического описания выбранных нестационарных процессов и их прогнозирование.

Разработан метод прогнозирования нелинейных нестационарных процессов с помощью регрессионных деревьев; предложена методика моделирования и прогнозирования нелинейных нестационарных процессов на основе нейронных сетей, обучаемых с помощью генетического алгоритма. Предложенные методы и методики отличаются от известных классических методов высоким качеством оценок прогнозов и приемлемыми вычислительными затратами на реализацию. Созданная информационная технология построения моделей гетероскедастических процессов с помощью синтезированных нейронных сетей для