Рассмотрение нейронной сети как метрического пространства позволяет
использовать идеи анализа на многообразиях в исследовании динамических
состояний, достигаемых нейросетью — важнейшей задаче нейродинамики.
Во многих ситуациях, дизайн модели нейронной сети предполагает ту или
иную пространственную организацию нейронов, что позволяет ввести на сети
метрическую структуру каноническим образом. Тем не менее важно
разработать эвристики, позволяющие удобным образом ввести расстояние на
произвольной сети.
На докладе я напомню основные принципы метрического взгляда на нейронные
сети и предложу общий подход для построения необходимых эвристик. После
этого, будет рассмотрена простая эвристика на основе близости фаз
колебаний нейронов, для которой мы докажем валидирующий теоретический
результат.
Ещё видео!