Хайдарова Резеда Раитовна Архитектура и методы вычислений для распределенной сверточной нейронной сети на кластере компьютеров с ограниченными вычислительными ресурсами

Краткое описание

Хайдарова Резеда Раитовна Архитектура и методы вычислений для распределенной сверточной нейронной сети на кластере компьютеров с ограниченными вычислительными ресурсами
ОГЛАВЛЕНИЕ ДИССЕРТАЦИИ
кандидат наук Хайдарова Резеда Раитовна
Содержание

Реферат

Synopsis

Введение

Глава 1. Анализ применения глубокого обучения на устройствах с ограниченными вычислительными ресурсами

1.1 Эволюция Интернета вещей

1.2 Анализ широко применяемых одноплатных компьютеров в различных областях

1.3 Анализ искусственных нейронных сетей (глубокое обучение)

1.3.1 Рекуррентные нейронные сети

1.3.2 Сети долгой краткосрочной памяти

1.3.3 Сверточные нейронные сети

1.3.4 Применение нейронных сетей в различных областях

1.4 Существующие решения для вычислений нейронных сетей

1.5 Выводы по главе

Глава 2 Методы и алгоритмы распределенных вычислений

2.1. Алгоритмы балансировщика нагрузки

2.1.1 Алгоритм Round Robin

2.1.2 Алгоритмы Min-Min и Max-Min

2.1.3 Алгоритм Foreground-Background

2.1.4 Алгоритм Sticky Sessions

2.2 Классификация стратегий распределения нагрузки

2.3 Особенности нейронных сетей в распределенных вычислительных системах

2.4 Выбор архитектуры сверточной нейронной сети

2.4.1 Архитектура LeNet

2.4.2 Архитектура AlexNet

2.4.3 VGG-19

2.4.4 GoogLeNet

2.5 Слои сверточной нейронной сети

2.6 Методы распределения нейронной сети

2.7 Модель сверточной нейронной сети для кластера компьютеров с ограниченными вычислительными ресурсами

2.8 Выводы по главе

Глава 3. Разработка архитектуры, алгоритма и методов вычислений для распределенной сверточной нейронной сети для кластера с ограниченными вычислительными ресурсами

3.1 Разработка архитектуры системы для кластера компьютеров с ограниченными вычислительными ресурсами

3.2 Разработка метода разделения карт признаков сверточной нейронной сети на блоки с учетом специфики обрабатываемых данных и ресурсов на узлах кластера

3.3 Разработка планировщика задач с балансировкой, основанного на мета-обучении139

3.3.1 Разработка планировщика задач для пересекающихся данных

3.3.2 Планировщик задач, основанный на мета-обучении

3.3.3 Алгоритмы для мета-классификатора

3.4 Метрики оценки алгоритмов планирования распределения задач сверточной нейронной сети для кластера компьютеров с ограниченными вычислительными ресурсами

3.5 Алгоритм распределения сверточной нейронной сети для кластера компьютеров с ограниченными вычислительными ресурсами

3.6 Выводы по главе

Глава 4. Экспериментальная проверка и тестирование производительности распределенной сверточной нейронной сети на кластере компьютеров с ограниченными вычислительными ресурсами

4.1 Описание требований к экспериментальному кластеру

4.2 Описание экспериментально программно-аппаратного окружения

4.3 Описание тестовых сценариев

4.4 Оценка производительности кластера на основе разработанной архитектуры и алгоритма

160

4.5 Сценарий реализации мета-обучения для планировщика задач

4.6 Выводы по главе

Заключение

Список сокращений

Список литературы

Приложение А

Приложение Б

Публикации