Дегтяр Ольга Сергіївна. Адаптивні моделі апроксимації даних в заданих структурних формах

Краткое описание

Дегтяр Ольга Сергіївна. Адаптивні моделі апроксимації даних в заданих структурних формах.- Дисертація канд. фіз.-мат. наук: 01.05.02, Київ. нац. ун-т ім. Тараса Шевченка. - Київ, 2015.- 136 с.

Міністерство освіти і науки України
Київський національний університет
імені Тараса Шевченка
На правах рукопису
Д е г т я р О л ь г а С е р г і ї в н а
УДК 519.6:621.391
АДАПТИВНІ МОДЕЛІ АПРОКСИМАЦІЇ ДАНИХ
В ЗАДАНИХ СТРУКТУРНИХ ФОРМАХ
01.05.02 – математичне моделювання та обчислювальні методи
Дисертація
на здобуття наукового ступеня кандидата
фізико-математичних наук
Науковий керівник
доктор технічних наук, професор
Гаращенко Федір Георгійович
Київ  2014
2
ЗМІСТ
ВСТУП ..................................................................................................................... 5
РОЗДІЛ 1. СУЧАСНИЙ СТАН, АНАЛІЗ ПРОБЛЕМ ТА ЗАДАЧ
АДАПТИВНОЇ АПРОКСИМАЦІЇ ДАНИХ....................................................... 11
1.1. Деякі проблеми задач апроксимації даних та напрямки їх розвитку.... 11
1.2. Застосування теорії оптимізації в задачах апроксимації даних............. 17
1.3. Використання методів псевдоінверсії в задачах апроксимації.............. 20
РОЗДІЛ 2. ПОБУДОВА АДАПТИВНИХ АЛГОРИТМІВ ДЛЯ
РОЗВ’ЯЗУВАННЯ ЗАДАЧ АПРОКСИМАЦІЇ ЕКСПЕРИМЕНТАЛЬНИХ
ДАНИХ, ЯКІ БАЗУЮТЬСЯ НА МЕТОДАХ ПСЕВДОІНВЕРСІЇ ТА
РЕГУЛЯРИЗАЦІЇ.................................................................................................. 22
2.1. Постановка задач псевдоінверсії та їх застосування до апроксимації
експериментальних даних................................................................................. 22
2.2. Апроксимація сигналів методами регуляризації для систем зі сталою
розмірністю......................................................................................................... 26
2.3. Деякі підходи до вибору параметра регуляризації ................................. 30
2.4. Розв’язування задачі псевдоінверсії для систем зі сталою розмірністю
через двоїсту задачу........................................................................................... 40
2.5. Динамічні моделі для знаходження апроксимації для прямої та двоїстої
задач .................................................................................................................... 42
Висновки до розділу 2....................................................................................... 48
РОЗДІЛ 3. РОЗРОБКА АДАПТИВНИХ МЕТОДІВ СТРУКТУРНОПАРАМЕТРИЧНОЇ ОПТИМІЗАЦІЇ, ЩО БАЗУЮТЬСЯ НА ГРАДІЄНТНИХ
МЕТОДАХ ............................................................................................................. 49
3.1. Задачі структурно-параметричної оптимізації експериментальних
даних, що надходять в режимі реального часу............................................... 49
3
3.2. Адаптивні підходи до апроксимації сигналів, основані на мінімізації
нев’язки у фіксований момент часу................................................................. 50
3.2.1. Адаптивні підходи до апроксимації неперервних скалярних
сигналів ............................................................................................................... 50
3.2.2. Адаптивні алгоритми апроксимації кусково-неперервних сигналів . 54
3.2.3. Адаптивні методи апроксимації для випадку векторних сигналів .... 58
3.2.4. Алгоритм апроксимації кусково-неперервних векторних сигналів... 61
3.2.5. Адаптивна апроксимація сигналів за допомогою системи базисних
функцій зі змінною розмірністю...................................................................... 66
3.3. Адаптивні моделі для апроксимації сигналів, що базуються на
мінімізації інтегральної нев’язки ..................................................................... 71
3.4. Про аналіз збіжності ітераційних процедур для апроксимації сигналів
методами структурно-параметричної оптимізації ......................................... 75
Висновки до розділу 3....................................................................................... 82
РОЗДІЛ 4. РОЗРОБКА ПРОГРАМНО-АЛГОРИТМІЧНОГО
ЗАБЕЗПЕЧЕННЯ ТА ВИКОРИСТАННЯ РОЗРОБЛЕНИХ МЕТОДІВ ДО
АПРОКСИМАЦІЇ ЕКСПЕРИМЕНТАЛЬНИХ ДАНИХ................................... 83
4.1. Особливості задач апроксимації експериментальних даних на основі
методів адаптивної апроксимації..................................................................... 83
4.2. Ідентифікація параметрів системи у задачі оцінювання концентрації
хлорофілу з використанням методів псевдоінверсії ...................................... 84
4.3. Адаптивна апроксимація сигналів за допомогою градієнтних методів
першого та другого порядку............................................................................. 88
4.3.1. Обчислювальний експеримент для випадку неперервних сигналів .. 88
4.3.2. Використання адаптивних алгоритмів для апроксимації кусковонеперервних сигналів ........................................................................................ 94
4.3.3. Проведення обчислювального експерименту для випадку векторних
сигналів ............................................................................................................. 100
4
4.3.4. Застосування адаптивних алгоритмів струкутрно параметричної
оптимізації, що базуються на методах оптимізації другого порядку ........ 102
4.3.5. Застосування адаптивних алгоритмів струкутрно параметричної
оптимізації, що базуються на мінімізації інтегральної нев’язки................ 104
4.3.6. Застосування алгоритмів з використанням методів оптимізації
першого порядку для апроксимації економічних даних ............................. 106
4.3.7. Застосування алгоритмів до задачі прогнозування валютної позиції
банку.................................................................................................................. 111
Висновки до розділу 4..................................................................................... 114
ВИСНОВКИ......................................................................................................... 116
СПИСОК ВИКОРИСТАНИХ ДЖЕРЕЛ........................................................... 118
ДОДАТКИ............................................................................................................ 134
5
ВСТУП
Актуальність теми. Активний розвиток інформаційних технологій та
цифрової обробки інформації потребує вдосконалення старих та створення
нових математичних моделей обробки даних. Перш за все такі моделі
повинні бути орієнтованими на обробку даних, що надходять у режимі
реального часу, а отже бути адаптивними до змін характеристик
досліджуваних об’єктів.
Однією з важливих задач при розпізнаванні та класифікації динамічних
потоків даних є їх адаптивна апроксимація та структурно-параметричне
представлення. Відповідні прикладні задачі постають в різних галузях:
біології, хімії, медицині, економіці, радіотехніці, телекомунікації тощо. Саме
тому моделі та методи, які пропонуються в дисертаційній роботі, є
універсальними, – такими, що можуть бути адаптовані до широкого класу
прикладних задач.
Потреби у моделях, що здатні налаштовуватися до змін систем,
стимулювали розвиток адаптивних алгоритмів апроксимації та структурнопараметричного представлення даних. Великий вклад у розвиток теорії
адаптивних систем внесли В. Н. Фомін, А. Л. Фрадков, В. А. Якубович,
B. D. O. Anderson, G. C. Goodwin. Серед досліджень в області структурнопараметричної оптимізації особливо слід виділити роботи Б. М. Бублика,
М. Ф. Кириченка та Ф. Г. Гаращенка.
В моделях обробки та структурного представлення даних, що
орієнтовані на надходження інформації в режимі реального часу, як правило
йдеться про некоректно поставлені задачі. Ефективні підходи для їх
розв'язування запропоновані А.Н. Тихоновим, В.Я. Арсеніним,
В.А. Морозовим. Важливі результати, що базуються на псевдоінверсії
6
матриць, одержали Ф. Р. Гантмахер, М.Ф. Кириченко, A. Albert, E. H. Moore,
R. Penrose, E. T. Greville, T. Reginska.
Ці ідеї носять фундаментальний характер і можуть бути використані до
широкого класу задач. Тому розробка нових предметно-орієнтованих
моделей адаптивної апроксимації даних є актуальною темою як з
теоретичної, так і з практичної точок зору.
Зв’язок роботи з науковими програмами, планами, темами.
Дисертаційна робота виконана у відповідності до плану наукових досліджень
кафедри моделювання складних систем факультету кібернетики Київського
національного університету імені Тараса Шевченка в рамках бюджетної
науково-дослідної теми №11БФ015-01 «Розвиток теорії та створення
програмно-алгоритмічних засобів для моделювання, аналізу, оцінки та
оптимізації складних систем в умовах невизначеності» (державний номер
реєстрації №ДР 0111U004651).
Мета і задачі дослідження. Метою роботи є розробка нових
математичних засобів для апроксимації даних за допомогою методів
структурно-параметричної оптимізації, які орієнтовані на роботу в режимі
реального часу.
Поставлена мета зумовлює необхідність розв’язання таких основних
задач:
- створити засоби для адаптивної апроксимації даних, що
базуються на методах псевдоінверсії у формі ітераційних схем;
- розробити і теоретично обґрунтувати динамічні моделі для
структурно-параметричної оптимізації, що базуються на градієнтних
методах;
- розробити алгоритми апроксимації даних, орієнтовані на зміну
структури даних;
- дослідити умови збіжності запропонованих ітераційних
7
процедур;
- проаналізувати ефективність використання розроблених
алгоритмів шляхом їх апробації як на модельних прикладах, так і на реальних
даних.
Об’єктом дослідження є обробка даних та їх представлення в
структурно-параметричних формах.
Предметом дослідження є адаптивні моделі у вигляді систем
звичайних диференціальних рівнянь, ітераційні процедури та їх аналіз.
Методи дослідження. У дисертаційній роботі були застосовані
методи параметричної ідентифікації, теорії стійкості, математичного
моделювання, структурно-параметричної оптимізації, псевдоінверсні та
регуляризаційні методи розв’язання некоректно поставлених задач.
Наукова новизна одержаних результатів стосується розробки
адаптивних алгоритмів апроксимації даних.
Зокрема, вперше:
- розроблено адаптивні алгоритми апроксимації сигналів в заданих
структурних формах, основані на методах псевдоінверсії, що базуються на
переході до двоїстої задачі. Одержані ітераційні схеми для прямої та двоїстої
задач дозволяють застосовувати алгоритм до обробки даних у реальному
часі;
- розроблено методи структурно-параметричної оптимізації з
використанням регуляризації для прямої та двоїстої задач;
- на основі методів оптимізації другого порядку розроблено
адаптивні алгоритми апроксимації даних у заданих структурах. Отримано
системи диференціальних рівнянь, що дають можливість адаптивної корекції
невідомих параметрів при надходженні нових спостережень.
8
Удосконалено:
- динамічні системи структурно-параметричної оптимізації для
мінімізації інтегральної нев’язки на всьому часовому проміжку та на
заданому часовому вікні на основі застосування методів оптимізації другого
порядку;
- алгоритми адаптивної апроксимації та структурного представлення
даних, розроблено їх модифікації для кусково-неперервних та векторних
сигналів, а також ітераційні схеми для випадку зміни системи базисних
функцій.
Здійснено подальший розвиток:
- аналізу збіжності ітераційних процедур для задач адаптивної
обробки даних на основі методів Ляпунова та теорії практичної стійкості.
Практичне значення одержаних результатів. Результати дисертації
можуть бути використані до задач обробки та структурного представлення
даних, що надходять у реальному часі. Створене програмне забезпечення
може бути використане до задач класифікації, розпізнавання та цифрової
обробки даних у різних прикладних галузях.
При виконанні робіт по розробці програмних засобів для дистанційного
оцінювання концентрації хлорофілу в рослинності на основі спектру відбиття
спільно з відділом дистанційних методів та перспективних приладів
Інституту космічних досліджень НАНУ-ДКАУ було використано розроблені
в дисертаційній роботі методи адаптивної апроксимації, що базуються на
методах псевдообернення та регуляризації (довідка від 20.01.2015 р.). Також
основні схеми алгоритмічного комплексу були впроваджені в навчальний
процес кафедри моделювання складних систем факультету кібернетики
Київського національного університету імені Тараса Шевченка в рамках
9
спеціального курсу «Прикладні задачі моделювання, аналізу та синтезу
динамічних систем», який читається для студентів факультету кібернетики
Київського національного університету імені Тараса Шевченка (довідка від
05.01.2015 р.).
Особистий внесок здобувача. Всі основні результати дисертаційної
роботи отримані автором самостійно. У публікаціях, виконаних у
співавторстві, особистий внесок здобувача полягав у виконанні всіх
основних доведень, розрахунків та формулюванні висновків. Співавторам
належать постановки задач та рекомендації щодо методів їх розв’язування.
Зокрема, у статті, опублікованій спільно з Швець О. Ф. [1] автору
дисертації належить розробка алгоритму апроксимації кусково-неперервних
сигналів. В працях, виконаних у співавторстві з науковим керівником
професором Гаращенко Ф.Г., керівникові належать постановка задачі та
рекомендації щодо методів розв’язання. Дисертантом було виконано основні
дослідження та побудовано адаптивні моделі апроксимації сигналів в
структурно заданих формах.
Апробація результатів дисертації. Результати дисертаційної роботи
доповідались на наукових семінарах кафедри моделювання складних систем,
кафедри системного аналізу та теорії прийняття рішень факультету
кібернетики Київського національного університету імені Тараса Шевченка,
на розширеному науковому семінарі відділу чисельних методів та
комп’ютерного моделювання Інституту кібернетики імені В. М. Глушкова
Національної академії наук України, в Інституті космічних досліджень
Національної академії наук України та Державного космічного агентства
України, а також на:
- мiжнароднiй конференцiї «Dynamical systems modeling and stability
investigation» (27-29 травня 2009 р., м. Київ);
10
- мiжнароднiй конференцiї «Dynamical systems modeling and stability
investigation» (25-27 травня 2011 р., м. Київ);
- XVII Мiжнароднiй конференцiї «Problems Of Decision Making Under
Uncertainties» (23–27 травня, 2011 р., м. Східниця);
- чотирнадцятій мiжнароднiй науковiй конференції iмeнi академiка
М. Кравчука (19-21 квітня 2012 р., м. Київ);
- Мiжнароднiй конференцiї «Dynamical systems modeling and stability
investigation» (29-31 травня 2013 р., м. Київ);
- IV міжнародній науково-практичній конференції «Фізико-технологічні
проблеми радіотехнічних пристроїв, засобів телекомунікацій, нано- та
мікроелектроніки» (23-25 жовтня 2014 р., м. Чернівці).
Публікації. Основні положення дисертації висвітлено у 11 наукових
працях [1-11] загальним обсягом 2,2 д. а. (з них 1,7 д. а. належать особисто
автору), з яких 5 надруковано у наукових фахових виданнях, що затверджені
МОН України [1-5], одне включене до міжнародної наукометричної бази
Scopus [2], інші 6 наукових праць [6–11] є матеріалами тез доповідей
міжнародних наукових конференцій

Список литературы

ВИСНОВКИ
Робота присвячена побудові адаптивних моделей обробки даних,
основаних на градієнтних методах та математичному апараті
псевдоінверсії.
Основні результати дисертаційного дослідження такі:
- вперше розроблено адаптивні алгоритми апроксимації сигналів в
заданих структурних формах, що базуються на псевдоінверсії, при цьому
запропоновано використання регуляризації розв’язку та перехід до двоїстої
задачі;
- вперше одержано ітераційні схеми для прямої та двоїстої задач,
що дозволяють застосовувати алгоритми до обробки даних у реальному
часі;
- вперше розроблено адаптивні алгоритми апроксимації даних у
заданих структурних формах, що базуються на методах оптимізації
другого порядку. Отримано системи диференціальних рівнянь, що
забезпечують можливість адаптивної корекції невідомих параметрів по
мірі надходження нових спостережень;
- здійснено подальший розвиток теорії адаптивної апроксимації
даних. Побудовано динамічні системи для структурно-параметричної
оптимізації, що базуються на мінімізації інтегральної нев’язки на всьому
часовому проміжку та на заданому часовому вікні;
- розроблено модифікації алгоритмів для структурного
представлення кусково-неперервних та векторних сигналів, а також для
випадку зміни системи базисних функцій;
117
- на основі методів Ляпунова та практичної стійкості досліджено
збіжність запропонованих неперервних та дискретних ітераційних схем;
- розроблено програмні засоби, що дозволяють проведення
обчислювальних експериментів для модельних прикладів та реальних
задач.
Результати наукового дослідження були впроваджені в науководослідний процес Інституту космічних досліджень Національної академії
наук України та Державного космічного агентства України та в навчальний
процес кафедри моделювання складних систем Київського національного
університету імені Тараса Шевченка в 2013-2014 н.р. в рамках спеціального
курсу «Прикладні задачі моделювання, аналізу та синтезу динамічних
систем».