NeuroSeed: Доказательство концепции
Доказательство концепции предполагает экономическую выгоду для конечной модели машинного обучения. Были выбраны нейронные сети для проведения тестов с наборами данных, состоящих из текстов, аудио и графики. В этих тестах сравнивалось требуемое время для обучения НС с нуля и время дообучения уже объединенных НС.
Подход базировался на тренировке 2х нейронных сетей, используя набор данных CIFAR-10. Команда разработчиков доказала концепцию объединения нескольких нейронных сетей в одну. Мы провели тестирование с двумя различными нейросетями. Каждая из них была обучена распознавать по 5 классов. Изначально мы использовали датасеты для 2х нейросетей и после мы объединили их в одну. У нас есть доказательство того, что одна нейронная сеть была способна находить различия между всеми 10 классами изначально обученных сетей.
Следовательно, новая НС была обучена с сохранением времени. Это позволяет получить нейросеть с необходимыми функциями находить различия в 45-200 раз быстрее, чем обчение новой нейронной сети с нуля.
Тестирование на наборе данных “Графика”
Наибольшее увеличение - в 200 раз - было получено путем тренировки нейронной сети на данных, состоящий из изображений.
Тестирование на наборе данных “Текст”
Было получено ускорение - 45 раз - на текстовых данных.
Тестирование на наборе данных “Аудио”
Было получено ускорение - 150 раз - на аудио данных.
