Наркомат путей сообщения СССР, 12 января 1936 года объявил об официальном создании спортивного общества «Локомотив». Незадолго до этого, в быстро развивающейся стране, было принято решение о создании спортивного объединения железнодорожников. Устав организации утвержден 5 декабря 1935 года. Первым председателем стал Рябоконь Виктор Александрович.

Создание данного спортивного общества было ознаменовано рядом высоких спортивных достижений - многие его спортсмены становились чемпионами и рекордсменами СССР в различных видах спорта уже в первые годы работы общества.

Во время Великой Отечественной войны десятки тысяч спортсменов и физкультурников «Локомотива» ушли добровольцами на фронт или работали в тылу на благо фронта. Также на всех железных дорогах велась подготовка общественных инструкторов по рукопашному бою, лыжам, метанию гранаты, преодолению полосы препятствий.