ВЛИЯНИЕ МЕТОДОВ КВАНТОВАНИЯ И ПРУНИНГА НА ЭНЕРГОЭФФЕКТИВНОСТЬ ГЛУБОКИХ НЕЙРОННЫХ СЕТЕЙ НА УСТРОЙСТВАХ С ОГРАНИЧЕННЫМИ РЕСУРСАМИ

Abstract

В статье проводится сравнительный анализ двух основных методов снижения энергопотребления при выполнении глубоких нейронных сетей на устройствах с ограниченными вычислительными ресурсами – квантования и прунинга. Цель исследования – обосновать механизм влияния этих методов на энергоэффективность с точки зрения энергии обращений к памяти и арифметических операций, а также предложить последовательность их совместного применения. Использованы методы системного и сравнительного анализа, а также обобщения экспериментальных результатов, опубликованных в литературе. Показано, что основным источником энергозатрат являются не арифметические операции, а чтение данных из памяти, поэтому наибольший эффект дают методы, сокращающие объём модели. Сделан вывод, что последовательное применение структурного прунинга и 8-битного целочисленного квантования является наиболее практичным подходом для устройств с ограниченными ресурсами.