Научная статья 'Задача поиска нейросетевых моделей' (NAS)

Ключевые слова: Ключевые слова: нейронные сети, нейросетевые архитектуры, генетические алгоритмы, FBANN, NAS, гиперпараметры нейросети, нейромодель.

В работе рассмотрены принципы построения систем поиска субоптимальных нейросетевых моделей под поставленную задачу. Показаны преимущества и недостатки существующих подходов и расширенно рассмотрен вариант на основе принципа обучения с подкреплением, который отличает возможность корректировки алгоритма нахождения нейромодели без участия эксперта.

NAS (Neural Architecture Search) – это процесс автоматизации проектирования архитектуры нейронной сети и ее обучения, т.е. решение задачи структурного и параметрического синтеза нейронной сети. Задача NAS – найти лучшую по производительности нейросетевую архитектуру с минимальными затратами на поиск [1, 2].

Иногда NAS выделяют, как подраздел автоматизированного машинного обучения – AutoML. Обычно система NAS получает на вход набор данных и тип задачи (прогнозирование, классификация, распознавание изображений и т.д.), а на выходе генерирует архитектуру нейронной сети с настроенными коэффициентами синаптических связей. NAS часто используется для конструирования сверточных нейронных сетей (СНС) [2]. Нередко NAS также подготавливает обучающую выборку.

Если рассматривать историю вопроса, то необходимо выделить следующий момент – методы ускорения поиска топологий нейросетевых моделей и сокращения времени их обучения появились достаточно давно, при этом для ряда сетей, например, Хопфилда и Хемминга....

Полный текст статьи на сайте журнала КубГТУ

Материалы по теме: Поиск нейросетевых архитектур:

• Шумков Е.А., Патент № 2784749 C2 "Модифицированный интеллектуальный контроллер управления обучением нейронной сети с генетическим алгоритмом", ФИПС, 2022
• Ключко В.И., Шумков Е.А. Патент № 2602973 "Контроллер управления обучением нейронной сети с генетическим алгоритмом", ФИПС, 2016