Исследователи NeuroAI формализовали понятие контравариантности, продемонстрировав, что для любых двух минимальных решений глубокой нейронной сети (DNN) достаточно сложной задачи слабая согласованность на основе аффинных отображений гарантирует сильную согласованность привилегированных осей. Эта согласованность «защелкивает» иерархию сети, заставляя привилегированные оси возникать в результате сквозной оптимизации задачи.
- Слабая согласованность представлений сети гарантирует сильную согласованность привилегированных осей.
- Согласованность распространяется вверх по иерархии сети во время оптимизации.
- Конвергентная эволюция между искусственными и реальными нейронными сетями мозга, вероятно, неизбежна при достаточно сложных задачах.
Эти результаты предполагают, что когда задачи достаточно сложны, выбор метрики для сравнения между сетями становится менее чувствительным.