Скотаренко Федір Миколайович. Розробка математичних методів групування інформації з матричними ознаками

brief description

Скотаренко Федір Миколайович. Назва дисертаційної роботи: "Розробка математичних методів групування інформації з матричними ознаками"

МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ
КИЇВСЬКИЙ НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ ІМЕНІ ТАРАСА ШЕВЧЕНКА
На правах рукопису
Скотаренко Федір Миколайович
УДК 519.6:004.93
РОЗРОБКА МАТЕМАТИЧНИХ МЕТОДІВ ГРУПУВАННЯ ІНФОРМАЦІЇ
З МАТРИЧНИМИ ОЗНАКАМИ
01.05.04 — системний аналіз і теорія оптимальних рішень
дисертація на здобуття наукового ступеня
кандидата фізико-математичних наук
Науковий керівник
Донченко Володимир Степанович
д.ф.-м.н., проф.
Київ – 2016
2
ЗМІСТ
ПЕРЕЛІК УМОВНИХ ПОЗНАЧЕНЬ ТА СКОРОЧЕНЬ………………………..5
ВСТУП……………………………………………………………………….……….7
РОЗДІЛ 1. ОГЛЯД ЛІТЕРАТУРИ. МАТЕМАТИЧНІ ЗАСОБИ
ПСЕВДООБЕРНЕННЯ В ЕВКЛІДОВИХ ПРОСТОРАХ…………………..……21
1.1. Базові математичні структури в задачі групування інформації .....….21
1.2. Евкілідів простір
n R
та ―вектори ознак‖…..……………….……..........24
1.3. Евклідові простори …………………………………..………………….28
1.3.1. Базові структури евклідового простору………………………………29
1.3.2. Зв'язки між структурами евклідового простору……………….……..30
1.3.3. Ортогональні проектори……………………………………………….31
1.3.3.1. Ортогональний проектор на ортогональне доповнення…………...33
1.3.4. Сингулярний розклад та псевдообернення матриці…………………33
1.3.5. Псевдообернення: класичний варіант…………………………...........39
1.3.6. Сингулярний розклад та псевдообернення матриці як лінійного
оператора над матричними просторами…………………………………………..39
1.3.7. Дослідження СЛАР у класичному варіанті…………………………...42
1.4. Відстані відповідності: проекційні та групуючі оператори…….……..44
1.4.1. Відстані відповідності: лінійні структури……………………………45
1.4.2. Відстані відповідності: нелінійні структури…………………….…...46
1.4.3. Застосування відстаней відповідності: кластеризація……………….51
Висновки до розділу 1………………………………………………………...53
РОЗДІЛ 2. КОНЦЕПЦІЯ «КОРТЕЖНОГО ОПЕРАТОРА»…………………....56
2.1. Абстрактна теорема про SVD-розклад………………………………….56
2.2. «Кортежний оператор»…………………………………………………..57
2.3. Сингулярний розклад «кортежних операторів»………………………..57
2.4. Псевдообернення для «кортежних операторів» …………………….....61
3
2.4.1. Властивості ПдО «кортежних операторів»…………………………..62
2.4.2. Ортогональні проектори……………………………………………….62
2.4.3. Групуючі оператори……………………………………………….…...63
2.5. Дослідження СЛАР для «кортежних операторів»………………..……65
2.5.1. Псевдорозв‘язок дослідження СЛАР………………………………….66
2.6. Еліпсоїди групування для «кортежних операторів»…………………...67
2.7. Мінімальні еліпсоїди групування для «кортежних операторів»……...68
2.8. Відстань до множинних лінійних структур в
m n R

підпросторів та
гіперплощини для «кортежних операторів»……………………………………...69
Висновки до розділу 2……………………………………………………….72
РОЗДІЛ 3. ЛІНІЙНА ДИСКРИМІНАЦІЯ В МАТРИЧНИХ ЕВКЛІДОВИХ
ПРОСТОРАХ……………………………...……………………………………......73
3.1. Дихотомічна кластеризація в задачах розпізнавання для евклідового
простору числових векторів …………………………………...………………….75
3.2. Синтез гіперплощинних кластерів засобами оптимізації……………...77
3.3. Лінійна дискримінація для евклідового простору числових векторів:
cинтез класифікаторів засобами лінійних і нелінійних оптимальних перетворень
простору ознак………………………………………………………………….......78
3.4. Умови й оптимізація полосної розділюваності образів у просторі
ознак…………………………………………………………………………………79
3.5. Оптимальне нелінійне перетворення компонентів вектора ознак…….82
3.6. Лінійна дискримінація в матричних евклідових просторах…………...86
3.6.1. Постановка задачі лінійної дискримінації для евклідового простору
матриць……………………………………………………………………………...86
3.6.2. Формалізація задачі лінійної дискримінації………………………….86
3.7. Алгоритм задачі лінійної дискримінації………………………………..90
3.7.1. Зауваження до алгоритму……………………………………………...91
Висновок до розділу 3………………………………………………………...93
РОЗДІЛ 4. ФОРМУЛИ ГРЕВІЛЯ-КИРИЧЕНКА: ЕВКЛІДОВІ ПРОСТОРИ
МАТРИЦЬ..................................................................................................................95
4
4.1. Залежність псевдообернених і проекційних матриць від приєднання
довільних вектор-рядків до вихідної матриці…………………………………….96
4.2. Залежність псевдообернених і проекційних матриць від видалення
довільних вектор-рядків з вихідної матриці …………………………………....100
4.3. Формули Гревіля-Кириченка: евклідові простори матриць…………102
Висновки до розділу 4……………………………………………………..….116
ВИСНОВКИ………………………………………………………………..……...117
СПИСОК ОПУБЛІКОВАНИХ ПРАЦЬ ЗА ТЕМОЮ ДИСЕРТАЦІЇ………….119
СПИСОК ВИКОРИСТАНИХ ДЖЕРЕЛ………………………………….….......122
ДОДАТОК А. АКТИ ВПРОВАДЖЕННЯ ДИСЕРТАЦІЙНОЇ РОБОТИ ……..135
5
ПЕРЕЛІК УМОВНИХ ПОЗНАЧЕНЬ ТА СКОРОЧЕНЬ
E, ,  абстрактний евклідів простір
, скалярний добуток
|| .|| норма евклідового простору
( , , ) E   R поле дійсних чисел
n R евклідів простір числових векторів розмірності
n
m n R

евклідів простір матриць розмірності
m n 
 матриця (
m n 
) лінійного оператора з
n R
в
m R
  спряжений до

оператор, :
n m R R    E
m
одинична матриця розмірності
m , тотожний оператор в
m R
T A транспонована до матриці

матриця
L лінійний підпростір
,
n m n L R L R 
  ( , ) e  сингулярність лінійного оператора
:
n m   R R e - власний вектор,

- ненульове власне число,
|| || 1 e 
a L, 

гіперплощина:
   a L a L , 
PL
ортогональний проектор (ОП) на лінійний підпростір
SVD абревіатура для ―Single Value Decomposition‖ – сингулярне подання
6
2
( , ), 1, i i u i r   набір ненульових сингулярностей матриць
T AA ,
m n A R 
 ,r rankA  ,
2 2
1
... 0     
r
2
( , ), 1, i i v i r   набір ненульових сингулярностей матриць
T A A,
m n A R 
 ,r rankA  ,
2 2
1
... 0     
r
ПдО псевдообернення
SVD A сингулярне подання лінійної матриці
A
, лінійного оператора
A
A

- ПдО
A псевдообернення лінійної матриці
A
, лінійного оператора
A
Z A( )
ортогональний проектор на ядро
A

Z A( ) ортогональний проектор на ядро
A
KerA множина нулів (ядро) лінійного оператора
A
( ) A T R A A 


оператор групування за матрицею
A , оператором
A
( ) A T T R A A 


оператор групування за матрицею
T A , оператором
T A
СЛАР системи лінійних алгебраїчних рівнянь
, , ,
m n n n Ax b A R b R x R 
   
МаСЛАР матрична системи лінійних алгебраїчних рівнянь
, ,B , m n m p n p AX B A R R x R   
   
7
ВСТУП
Актуальність теми. У багатьох прикладних задачах виникає завдання
оперування об‘єктами з матричним представленням. До таких задач відносять
представлення фунцій за їх спостереженями, класифікацію, кластеризацію,
розпізнавання образів. Розвиток та впровадження інформаційних технологій,
систем штучного інтелекту неможливе без адекватного розвитку та
вдосконалення методів математичного моделювання. Актуальність
обумовлена необхідністю подальшого розвитку математичних методів
дослідження в прикладних задачах, що характеризуються умовами
невизначеності. Так, для прикладних задач є актуальним створення
математичного апарату дослідження невизначеності у зв‘язку із матричними
об‘єктами, зокрема, базовими структурами евклідових просторів. Такий стан
речей визначається тим, що для
n R
існує розвинений апарат оперування з
базовими структурами евклідових просторів: підпростір, гіперплощина,
еліпси групування. Вони пов‘язані великим арсеналом засобів опису зв‘язків
в евклідових просторах: сингулярного подання матриці та псевдообернення.
Розвиток математичного апарату з матричними представниками потребує
засобів перенесення з
n R
на матричні простори. Тому дослідження, пов‘язані з
вивченням природи невизначеності та розвитком засобів її математичного
моделювання, набувають особливої актуальності.
На сьогоднішній день задачі групування інформації чи у вигляді задачі
відновлення функції, представленої своїми значеннями, чи у вигляді задач
кластеризації, класифікації чи розпізнавання образів, представляють важливий
клас прикладних задач із широким колом застосування. Особливого значення
вони набувають у зв‘язку із проблемою створення технологій природного
інтерфейсу у спілкуванні людини з комп‘ютером. Розпізнавання мови і
рукописного тексту значно спрощує взаємодію людини з комп'ютером,
розпізнавання друкованого тексту використовується для перекладу документів
в електронну форму, що породжує спеціальну увагу до розвитку технологій
8
обробки мовних сигналів та зображень. Створення систем розпізнавання та
синтезу мови, системи визначення особи та її емоційного стану, системи
компресії мовного сигналу, системи очищення від шумів, підвищення
розбірливості є важливими задачами створення природного інтерфейсу.
Проблеми, що стосуються обробки зображень, включають системи виділення
однорідних (у тому чи іншому сенсі) областей на зображеннях, виділення та
«захват» об‘єктів рухомих зображень, системи автоматичного зчитування та
розпізнавання тексту різноманітного призначення, систем ідентифікації особи
за зображенням і т. ін. Досягнення у згаданих областях є вагомими, але ще
далекими від завершення. Подальше просування в розв‘язанні задач групування
інформації вимагає як ефективного використання вже наявних можливостей
математичних методів, так і розвитку їх з метою застосування саме в задачах
групування інформації. Це повною мірою стосується задач обробки мовних
сигналів та зображень з метою розпізнавання, класифікації, кластеризації.
Розвиток та вдосконалення адекватного для прикладних задач математичного
апарату, втілення його в ефективних алгоритмах обробки сигналів є актуальним
завданням у прикладних математичних дослідженнях.
Розвиток сучасних технологій визначається все більш високими вимогами
до них. Наприклад, це стосується задач розпізнавання мови, в тому числі
дактильної. Цей напрямок є одним з актуальних та перспективних у зв`язку зі
створенням природних інтерфейсів, які забезпечують спілкування людини з
комп`ютером природним чином. Не менш важливим напрямком є розвиток
технологій аналізу сцен, зокрема, виділення та супроводження об`єктів на
зображенні та їх класифікація. Виділення облич людей на фотографіях, аналіз
емоцій за мімікою губ, пошук на зображенні автомобілів та їх номерних знаків
– це лише деякі приклади найбільш відомих загалу задач, які знайшли
практичне застосування у відомих інтернет–порталах та системах різного
напрямку. Як результат, досить поширеними є програми, які дозволяють
керувати автомобілем за допомогою голосових команд або жестів.
9
Ефективне розв`язання, зокрема, згаданих задач базується на методах
класифікації, кластеризації, розпізнавання образів. Принциповими є роботи
іноземних науковців, зокрема, самоорганізаційна карта Кохонена Т.К.,
приховані марківські моделі Баума Л.Е., інваріантні моменти Ху М.К. та інші.
Важливий внесок здійснили і вітчизняні науковці. Ще півстоліття тому
Глушков В.М. створив в Києві наукову школу аналізу зображень. Цей напрямок
досліджень продовжив розвивати Шлезінгер М.І. Результати досліджень
Шлезінгера М.І. знайшли своє практичне застосування у проекті Viewdle, який
пов`язаний із комп`ютерним зором, а саме розпізнаванням облич та об`єктів.
Статистичні методи розвивали Вапник В.Н. та Червоненкіс А.Я. В області
розпізнавання мовної інформації важливими є роботи Вінцюка Т.К. Видатний
внесок у розвиток алгебраїчних методів, зокрема, псевдообернення та його
застосування в задачах групування інформації, був здійснений Кириченком
М.Ф., зокрема, у співавторстві з Кривоносом Ю.Г. Розв‘язання задачі лінійної
дискримінації, як правило, пов‘язується з роботами Фішера Р.А. та Маклоклен
Г. Розв`язання задач кластеризації на основі занурення у відповідні множини
(еліпсоїдальні циліндри) запропонували Куц Ю.В. та Кириченко М.Ф. В
роботах Кириченка М.Ф. та Донченка В.С. [89,90] запропонована та розвинута
концепція відстаней відповідності в задачах кластеризації та класифікації
інформації через асоціацію (занурення) у слушні алгебраїчні структури.
Принципові результати у сфері моделювання емоційних станів обличчя
людини, жестової мови, автоматизації стенографування, синтезу мови отримані
Краком Ю.В.
Задачі кластеризації, класифікації, розпізнавання в різних варіантах
прояву та постановки є принциповими прикладними задачами, які є предметом
уваги багатьох дослідників. Важливими в цьому контексті є монографія Т.
Kohonen T. [27], класична робота Richard O. Duda, Peter E. Hart, David G. [41],
Christopher M. Bishop [4,5], роботи Вапніка В.Н. [49,50,59] та Шлезінгера М.І.
[129,130,131], Яценка В.О., M. Pardalos [36]. Вагомий внесок в розвиток
математичних засобів аналізу та синтезу в задачах кластеризації, класифікації,
10
розпізнавання образів на основі розвитку апарату псевдообернення здійснено в
роботах Кириченка М.Ф., Донченка В.С. [89,90], Крака Ю.В. [100,101,102,103],
Кривоноса Ю.Г. [69,88,92,93,105,118], Кудіна Г.І. Принциповим у розвитку
засобів аналізу та розпізнавання мовних сигналів є робот А Вінцюка Т.К. [61],
Лобанова Б.М., Карпова О.М.[78], А.В . Фролова. Задача розпізнавання мовних
сигналів є предметом досліджень в роботах Клетта Д. Х., Барнета Дж. А.,
Бернстейна М. І., Аграновського А.В., І.О. Стелі. Розвитку методів аналізу
мовних сигналів на основі вейвлет-перетворення присвячені, зокрема, роботи
Addison P.S., Добеші І., Polikar R., Данилова В.Я., Малла С., Смоленцева Н.К.,
Сорокіна В.М. [45]. Важливим засобом аналізу мовних сигналів є апарат
прихованих марківських процесів, див., наприклад роботи Rabiner L.R. [24,40] і
B.H. Juang. Широким в задачах кластеризації, класифікації та розпізнавання є
застосування методів штучних нейронних мереж (див., наприклад, Bengio Y.,
DeMori R., Flammia G., and Kompe R. і Bishop C.M. ) та нечітких множин (Кієдзі
Асаї, Дзюндзо Ватада, Сокуке Іваї та ін. [79]). Розв‘язанню практичних задач
розпізнавання зображень присвячені роботи Шлезінгера М.І. [8,9,10], Бармака
О.В., Муригіна К.В., Гонсалеса Р., Путятіна Є.П. [114,115], Зайченка Ю.П.
[75,76], Бідюка П.І. Важливим класом задач класифікації та розпізнавання є
задача розпізнавання з учителем, коли кожен із класів представлений певним
набором «представників». Одним із засобів розв‘язання проблеми може
вважатися дихотомічна класифікація. Стандартний недолік нестійкості
дихотомії при великих об‘ємах навчальних вибірок в рамках задачі
кластеризації, коли важко розрізнити групи класів, перевага у швидкості
розпізнавання за проходженням відповідного дерева, надає їй конкурентних
переваг, особливо, якщо комбінувати її із іншими методами, що можуть
компенсувати згаданий недолік. Зазвичай задачі кластеризації розв‘язуються
через побудову певної рекурентної процедури, важливим елементом якої є
процедура рекурентної перевірки елементів набору, що аналізується на предмет
виділення структурних особливостей та відмінностей, на належність групікластеру через визначення «найкращої відповідності» класу. Така відповідність
11
класу-кластеру визначається на основі «відстані відповідності», якою, як
правило, є евклідова відстань до певного «типового» представника класукластеру. В роботах [64,69,71,82] обґрунтовано та запропоновано використання
специфічних для класу-кластеру відстаней відповідності. Така побудова
здійснюється через «занурення» відповідної навчальної вибірки у слушне
геометричне утворення в евклідовому просторі числових векторів, в якому
лежать відповідні «вектори ознак» – числові вектори. Такими геометричними
утвореннями виступають в одному варіанті лінійні підпростори чи
гіперплощини, в іншому – еліпси чи мінімальні еліпси групування. У роботі
пропонується розвиток концепції використання неоднорідних за класами –
кластерами відстаней відповідності на евклідові простори матриць фіксованої
розмірності за слушними еліпсами та мінімальними еліпсами групування в
евклідовому просторі «матричних векторів» ознак. Доведені теореми, які є
основою розвитку концепції групування на матричні простори. Можливість
такого розвитку забезпечується розвитком теорії псевдообернення за МуромПенроузом на спеціальні класи операторів між стандартними евклідовими
просторами числових векторів та матриць фіксованої розмірності.
Довгий час класичними методами, які використовувалися для опису
невизначеності в математичному моделюванні об‘єктів, були статистичні
(теоретико-імовірнісні) методи та детерміновані в тому числі у вигляді методів
розв‘язку „обернених‖ задач. Важливим у розвитку засобів опису
невизначеності та побудовою адекватних засобів розв‘язання практичних задач
були 50–60-ті роки ХХ століття, коли бурхливий розвиток техніки,
промислових технологій та широке впровадження обчислювальної техніки в
математичному моделюванні призвів до появи й формування майже одночасно
декількох нових напрямків опису та врахування невизначеності. Серед них
виділимо:
- техніка псевдообернення, створена йще на початку 20-го сторіччя за
Penrose‘ом як засіб розв‘язання багатьох задач, у тому числі в наближеному
вигляді, та наступний бурхливий розвиток запропонованого напрямку; власне,
12
це було „оптимізаційне‖ представлення псевдообернення після його появи в
„алгебраїчному‖ варіанті, запропонованому Moore‘ом в 1920 р.;
- теорія оцінок з гарантованою точністю (теорія мінімаксного
оцінювання), що сформувалася в 60-х роках та набула розвитку в роботах
F.Schweppe, А.М. Куржанського, Н.Н. Красовського, М.Ф. Кириченка, О.Г.
Наконечного, В.М. Кунцевича, М.М. Личака, Г.М. Бакана, Ф.Л. Черноуська;
- теорія нечітких за L. Zadeh підмножин (1965 р.) та подальший розвиток
цієї теорії в роботах A.Kuafmann‘а, N. Kasabov‘а, Р. Беллмана та Л. Заде;
- інженерний засіб обробки зображень, запропонований Hough‘ом
(перетворення Гока) (1962 р.) та оформлений у вигляді патенту, з подальшим
його розвитком в роботах Rosеnfeld‘а, Duda&Hart‘a, Ballard‘а, Merlin
&.Faber‘a, Cohen& Toissaint‘а, Tsuji & F.Matsumoto, Xu & Oja.
Зазначимо, що саме з останнім із згаданих напрямків пов‘язана поява
терміну „множинні моделі невизначеності‖, зокрема розвинений в роботі
Донченко В.С. [74], як характеризації невизначеності та джерела її появи.
Значення цього терміну виходить за рамки області, в якій він з‘явився, тому що
може бути основою погляду на джерела та характеризацію невизначеності
загалом.
Важливість засобів опису невизначеності загалом та в рамках конкретних
методів у математичному моделюванні визначає актуальність досліджень
дисертаційної роботи.
У напрямку математичного моделювання, загалом, завдяки Георгію
Кантору базові математичні структури представляють собою певну множину та
―набір зв‘язків‖, які існують між елементами цієї множини. Арсенал опису
зв‘язків не такий вже великий. Такі ―зв‘язки‖ можуть описуватися
відношеннями, операціями, функціями, наборами підмножин чи їх
комбінацією.
Математична модель об‘єкту представляє собою передачу математичними
засобами (засобами математичного структурування) його структури.
Використання тих чи інших математичних структур в математичному
13
моделюванні визначається як специфікою самого об'єкту, так і набором
можливостей передачі зв‘язків між елементами в математичному об‘єкті як
такому.
Лінійні та евклідові простори є математичними структурами з багатим
арсеналом опису ―зв‘язків‖ між елементами відповідних множин. До цих
―зв‘язків‖ відносяться: ортогональність (кут між векторами), відстань, лінійні
оператори, збіжність. З іншого боку, в описі реального об‘єкту природним
чином з‘являється набір його характеристик. Такий набір може розглядатися як
елемент Евклідового простору відповідної розмірності.
Ці два фактори визначають той факт, що Евклідові простори є
математичною структурою, що найчастіше використовується в математичному
моделюванні.
Нагадаємо, що Евклідовим простором
n Rназивається множина всіх
числових наборів фіксованої довжини з покоординатним додаванням,
покоординатним множенням на скаляр і сумою покоординатних добутків як
скалярного добутку.
Загалом, скалярний добуток позначається
.,.
і є базою для визначення
норми
2
|| . ||
:
|| || ( , )
2
x  x x
, що в свою чергу є основою для визначення відстані
2 2  ( , ) || || x y x y  
. Відповідно, відстань дає можливість говорити про збіжність в
Евклідовому просторі, тобто визначати топологію.
Принциповими з точки зору математичного моделювання є використання в
Евклідовому просторі структур, які найчастіше використовуються в описі
реальних об‘єктів. До таких базових структур відносяться:
- лінійні структури: підпростори, гіперплощини та лінійні оператори;
- нелінійні структури: квадратичні форми (симетричні невід‘ємно
визначені), еліпси та еліпсоїди, що побудовані за ними.
Нескладно помітити, що серед перерахованих вище базових структур
виділяють:
- множинні: лінійні підпростори, гіперплощини, а також еліпсоїди;
14
- ―синглові‖ (одиничні): матриці лінійних операторів та матриці
квадратичних форм.
Ефективність використання відповідних базових структур евклідового
простору визначається конструктивністю їхнього опису, побудови та
обчислення пов‘язаних з ними характеристик, а також можливістю переходу
від одного типу структури до іншого: від множинних до сінглових та навпаки.
Це передбачає конструктивність опису лінійних підпросторів та гіперплощин
чи еліпсоїдів за тими чи іншими наборами векторів – навчальними вибірками в
тих чи інших задачах та засобах обчислення «ступеню близькості» до
побудованих об‘єктів.
Визначна роль у забезпеченні зазначеної вище конструктивності належить
уже згаданому апарату псевдообернення (ПдО), започаткованого Муром та
Пенроузом, і особливо розвитку цього апарату в фундаментальних роботах
М.Ф. Кириченка, серед яких особливо виділяють, [84].
Зазначимо, що ПдО за Муром-Пенроузом забезпечує зв‘язок між
сінгловими та множинними структурами евклідового простору, що суттєво
розширює можливості використання структур евклідового простору в
математичному моделюванні і, зокрема, в задачах групування інформації. Під
цією задачею матимемо на увазі з одного боку, задачу відновлення функції,
представленої своїми спостереженнями, а з іншого – задачі класифікації,
кластеризації чи розпізнавання образів.
Загалом математичні методи для задач групування інформації і
відновлення функції, класифікації, кластеризації, розпізнавання образів
(classification, clusterisation, pattern recognition) використовують розвинений
математичний апарат, який пов‘язаний з евклідовим простором як числових
векторів так і евклідів простір матриць та багатий на структурні зв‘язки арсенал
засобів оперування, що існують в евклідовому просторі.
В задачах керування чи аналітичних задачах регресії використовують
скаляр векторного аргументу. В задачах керування вектор функції,
рекурентного співвідношення функції.
15
В той же час у багатьох важливих прикладних задачах принциповим є
поява представника інформації – об‘єкту; зведення обєкту до математичної
моделі дає можливість вичерпно аналізувати його властивості. Такими
представниками можуть бути:
- матриця спектрограми;
- матриця зображення.
Досі обєктами оперували наступним чином: формували вектори ознак, які
потім перетворювались чи використовувались у розв‘язанні задачі групування
інформації.
Наразі, сформувалася нагальна потреба перенесення базових властивостей
чи властивостей опису базових лінійних і нелінійних структур, які діють із
евклідового простору числових векторів на евклідів простір матриць фіксованої
розмірності та скалярним добутком, з покомпонентним додаванням і
множенням на скаляр, та скаляр добутку. Перенесення апаратів SVD, ПдО і
пов‘язаних з ними структур в матричному випадку вимагає відповідних
математичних визначень і встановлення можливсті аналогів SVD, ПдО для
матричних просторів базових структур. Це можуть бути еліпси групування
породжених матрицями, що вимагає розв‘язання питання ПдО у зв‘язку з
матричними евклідовими просторами.
Зв’язок роботи з науковими програмами, планами, темами. Робота
виконана у відповідності до плану наукових досліджень кафедри системного
аналізу та теорії прийняття рішень факультету комп‘ютерних наук та
кібернетики Київського національного університету імені Тараса Шевченка
Міністерства освіти і науки України у рамках науково-дослідницької теми:
№11БФ015-06 ―Проблеми теорії прийняття рішень та системного аналізу
стохастичних мереж‖ (державний номер реєстрації 0111U006680, термін
виконання 2011-2015р.р. за програмою "Інформатизація суспільства").
Обґрунтованість та достовірність отриманих наукових результатів
підтверджується:
– узгодженістю отриманих результатів з класично відомими;
16
– об‘єктивним характером використаної в процесі дослідження
інформації, застосуванням фундаментальних положень теорії оптимальних
рішень, коректністю постановок задач, строгим математичним доведенням
результатів.
Мета і задачі дослідження. Метою дослідження є розвиток
математичних засобів групування інформації, розробка моделей реалізації
систем розпізнавання мови та знаків дактильної мови жестів.
Для досягнення мети поставлені наступні задачі:
– реалізувати концепцію кортежних операторів для матричних кортежів,
що дасть можливість побудувати конструктивну теорію SVD, ПдО
(псевдообернення) для таких операторів,
– поставити та розв‘язати задачу лінійної робастної дискримінації в
матричних евклідових просторах,
– розробити конструктивний алгоритм реалізації задачі лінійної
дискримінації,
– побудувати рекурентну формулу псевдообернення для кортежних
операторів: узагальнену формулу Ґревіля-Кириченка для кортежних операторів.
Предметом дослідження є базові лінійні та нелінійні структури об‘єктів
в матричному евклідовому просторі.
Об’єктом дослідження є засоби оперування такими структурами в
матричному евклідовому просторі.
Реалізація задач дослідження пов‘язана із засобами оперування з
базовими структурами, лінійними і нелінійними в матричних евклідових
просторах, що запропоновані в контексті кортежних операторів.
Методи дослідження. Методологічну основу дослідження становлять
алгебраїчні методи, включаючи методи сингулярного розкладу та
псевдообернення, методи кластеризації та класифікації, розпізнавання образів.
Наукова новизна дисертаційного дослідження в теоретикометодологічному обґрунтуванні та реалізації концепції кортежних операторів за
матричними кортежами матриць фіксованої розмірності, що дало можливість:
17
вперше:
- поставити та розробити конструктивний алгоритм реалізації задачі
лінійної дискримінації в матричних евклідових просторах;
- вичерпно та конструктивно дослідити систему лінійних алгебраїчних
рівнянь для кортежних операторів та спряжених до них;
- поставити та розв'язати задачу рекурентного обчислення
псевдообернення для кортежних операторів та спряжених до них за
розширенням кортежів новими матричним елементами; побудувати
аналоги прямих формул Ґревіля-Кириченка для матриць.
удосконалити:
- засоби дослідження лінійних та нелінійних базових структур в матричних
евклідових просторах;
набули подальшого розвитку:
- розв'язання задачі побудови сингулярного подання як самих кортежних
операторів, так і спряжених до них, зведенням до задачі на власні
значення для класичних матричних операторів;
- конструктивна побудова псевдообернених операторів до самих
кортежних та спряжених до них, що уможливило створення основи до
побудови низки методів розв'язання задач групування інформації для
представників з матричних евклідових просторів;
- алгоритми розв‘язання задач лінійної дискримінації у їхньому
застосуванні до матричних евклідових просторів;
базові структури евклідового простору: лінійний підпростір, гіперплощина,
лінійний оператор, квадратичні форми, зокрема, еліпсоїди чи їх внутрішність.
Особистий внесок. Дисертація є самостійною науковою працею, в якій
висвітлені власні ідеї і розробки автора, що дозволили розв`язати поставлені
задачі. Робота містить теоретичні та методичні положення, розроблені
алгоритми та відповідні висновки, сформульовані дисертантом особисто.
Використані в дисертації ідеї, положення чи гіпотези інших авторів мають
відповідні посилання і використані лише для підкріплення ідей здобувача.
18
У роботах, що написані у співавторстві, внесок автора полягає у
наступному: у роботі [9] опис методів розв'язання задачі побудови
сингулярного подання як самих кортежних операторів, так і спряжених до них,
зведенням до задачі на власні значення для класичних матричних операторів; у
роботі [12] опис задачі лінійної дискримінації для евклідових просторів
матриць; у роботі [10] формулювання та доведення прямих формул ҐревіляКириченка для кортежних операторів, пов'язаних з евклідовими просторами
матриць; у роботі [118] формулювання задачі та доведення теорем щодо
розв‘язків задачі лінійної дискримінації в евклідових просторах матриць; у
роботі [6] побудова апарату псевдообернененя для кортежних операторів,
визначених матричними кортежами, а також для спряжених до них; у роботі
[11] постановка задачі та доведення теорем про умови існування розв‘язків
задачі лінійної дискримінації; у роботі [8] формулювання алгоритму
розв‘язання задачі лінійної дискримінації, [69] опис множини розв‘язків чи
псевдорозв‘язків СЛАР в концепції кортежних операторів за матричними
кортежами.
Особистий внесок у рамках проведених досліджень полягає в розробці
методів та алгоритмів реалізації концепції кортежних операторів, що дозволила
перенести засоби аналізу і використання базових структур евклідового
простору
n R
на матричні евклідові простори. Сформульована та розв‘язана
задача робастної лінійної дискримінації для матричних евклідових просторів.
Побудований алгоритм розв‘язання такої задачі. Побудовані рекурентні
формули псевдообернення за розширенням кортежу додатковими матричними
елементами, що є аналогами формули Гревіля-Кириченка для матричних
евклідових просторів.
Реалізована концепція, запропонована для евклідових матричних
просторів, що дозволило перенести створення засобів аналізу та базові
структури евклідового простору від векторного представлення до матричного.
Розв‘язані такі задачі:
19
1) реалізація концепції кортежних операторів: зведення задачі SVD, ПДО
для кортежних операторів задачі на власні значення для звичайних матриць;
2) постановка та розв‘язання задачі робастної лінійної дискримінації для
матричних евклідових просторів;
3) побудова рекурентних формул псевдообернення для кортежних
операторів: узагальнення формули Гревіля-Кириченка для кортежних
операторів;
4) розвиток можливості розв‘язання задач групування в класичній задачі
визначення інформативних та неінформативних ознак для задач жестової мови.
Практична цінність і впровадження результатів роботи. Отримані в
дисертації наукові результати є внеском у розвиток математичних методів
розв'язання прикладних задач, явищ, процесів в умовах невизначеності, коли
досліджувані об‘єкти представляються матрицями. Побудовані алгоритми
використання отриманих результатів у розв‘язанні задач групування
інформації. Результати наукового дослідження методів та алгоритмів
псевдообернення в евклідовому просторі матриць для розв‘язання прикладних
задач у сучасних інформаційних системах, отримані в рамках підготовки
кандидатської дисертації ―Розробка математичних методів групування
інформації з матричними ознаками‖, впроваджені у 2013-2014 н.р. у
навчальний процес кафедри системного аналізу та теорії прийняття рішень
факультету кібернетики Київського національного університету імені Тараса
Шевченка при викладанні курсу ―Обробка інформації в умовах невизначеності‖
для студентів 1 курсу магістратури за спеціальністю ―Системи і методи
прийняття рішень‖. Застосовано при виконанні науково-дослідної теми
№11БФ015-06 ―Проблеми теорії прийняття рішень та системного аналізу
стохастичних мереж‖ (державний номер реєстрації 0111U006680, термін
виконання 2011-2015р.р. за програмою "Інформатизація суспільства").
Апробація роботи. Результати дисертаційної роботи доповідались на
семінарах кафедри моделювання складних систем та кафедри системного
аналізу та теорії прийняття рішень факультету комп‘ютерних наук та
20
кібернетики Київського національного університету імені Тараса Шевченка,
представлені на наступних конференціях: на міжнародній конференції
International conference "Knowledge Dialogue- Solution" KDS-2012, Kyiv,
Ukraine; на міжнародній конференції ITHEA International Conference - 2014
Varna, Bulgaria; 2-га міжнародна науково-практична конференція 'Інформаційні
технології та взаємодія' (IT&I) (Київ, Україна, 2015), 18-th International
Conference SAIT 2016 (System Analysis and Information Technology) (Київ,
Україна, 2016), 5-та міжнародна науково-практична конференція «Проблеми
інформатики та комп‘ютерної техніки» ПІКТ-2016. (Чернівці, Україна, 2016),
PDMU-2016 XXVII International Conference Problems Of Decision Making Under
Uncertainties (Tbilisi-Batumi, Georgia, 2016).
Публікації. За результатами дослідження опубліковано 12 наукових праць
– 8 наукових статей у фахових виданнях, з них 3 в іноземних журналах, що
входять до міжнародних наукометричних баз, та 4 тези доповідей на
міжнародних наукових конференціях.

bibliography

ВИСНОВКИ
Дисертація є завершеним науковим дослідженням, в якому розв`язується
важлива наукова проблема – побудова математичних засобів групування
інформації для евклідових просторів матриць фіксованої розмірності. У роботі
запропонований розвиток математичного апарату псевдообернення за МуромПенроузом на основі розвитку теорії псевдообернення для евклідових
просторів матриць фіксованої розмірності. Запропоновано реалізацію
математичного апарату дослідження базових структур в евклідовому просторі
матриць фіксованої розмірності через реалізацію спеціального класу операторів
названих в роботі кортежними. Отримані результати дозволяють реалізувати
методи, моделі та алгоритми кластеризації, загалом групування інформації для
важливих класів задач з матричними представниками. При цьому отримані
наступні нові наукові та практичні результати:
- реалізовано концепцію «кортежних операторів» для матричних кортежів,
що дало можливість побудувати конструктивну теорію SVD (сингулярний
розклад) та псевдообернення для таких операторів;
- вичерпно та конструктивно досліджено систему лінійних алгебраїчних
рівнянь для кортежних операторів та спряжених до них;
- сформульовано та розв‘язано задачу лінійної робастної дискримінації в
матричних евклідових просторах;
- сформульовано та розв'язано задачу рекурентного обчислення
псевдобернення для «кортежних операторів» та спряжених до них за
розширення кортежів новими матричними елементами для матриць:
побудовано аналоги прямих формул Ґревіля-Кириченка;
- удосконалено засоби дослідження лінійних та нелінійних базових
структур в матричних евклідових просторах;
- побудовано низку методів розв'язання задач групування інформації для
представників з матричних евклідових просторів.
118
Результати наукового дослідження методів та алгоритмів
псевдообернення в евклідовому просторі матриць для розв‘язання прикладних
задач у сучасних інформаційних системах, отримані в рамках підготовки
кандидатської дисертації, впроваджені у 2013-2014 н.р. у навчальний процес
кафедри системного аналізу та теорії прийняття рішень факультету
комп‘ютерних наук та кібернетики Київського національного університету
імені Тараса Шевченка при викладанні курсу ―Обробка інформації в умовах
невизначеності‖ для студентів 1 курсу магістратури за спеціальністю ―Системи
і методи прийняття рішень‖, а також застосовано при виконанні науководослідної теми №11БФ015-06 ―Проблеми теорії прийняття рішень та
системного аналізу стохастичних мереж‖