Теоретический

Мы подготовили огромную, глубокую конвуляционную нейронную систему для организации 1.3 миллионов высокоугольных снимков в LSVRC-2010 ImageNet, входящую в 1000 уникальных классов. По результатам тестирования мы достигли топ-1 и топ-5 просчетов 39.7% и 18.9%, что значительно превосходит все предыдущие лучшие в своем классе результаты. Нейронная система, имеющая 60 миллионов параметров и 500 000 нейронов, состоит из пяти конволюционных слоев, некоторые из которых примыкают к макс-полярным слоям, и двух международно-примыкающих слоев с последним 1000-полосным софтмаксом. Для ускорения подготовки мы использовали не иммерсионные нейроны и продуктивное использование конволюционных сеток на GPU. Для уменьшения переподгонки в интернационально связанных слоях мы использовали другую стратегию регуляризации, которая оказалась исключительно успешной.