W dniu 27 grudnia 1934 Państwowa Rada Kultury Fizycznej Centralnego Komitetu Wykonawczego ZSRR powołała specjalną publiczną organizację, która otrzymała nazwę Sekcja Piłki Nożnej ZSRR i była odpowiedzialna za organizację zawodów w piłce nożnej w kraju. Pierwszym przewodniczącym Sekcji Piłki Nożnej ZSRR został wybrany Aleksiej Sokołow. Jednocześnie Ministerstwo Sportu ZSRR (Komitet Sportowy) utworzyło Dyrekcję, która także zarządzała radziecką piłką nożną. Ale FIFA za przedstawiciela ZSRR, uznawała jedynie Sekcję Piłki Nożnej ZSRR. Podwójna kontrola piłki nożnej w ZSRR istniała do 1972, kiedy to Federacja została zlikwidowana.
27 lipca 1947, na Kongresie FIFA w Luksemburgu złożono wniosek o przyjęcie Sekcji Piłki Nożnej ZSRR do FIFA. Później, 27 września 1947 Kongres FIFA w Rotterdamie zatwierdził decyzję o przyjęciu Sekcji Piłki Nożnej ZSRR do FIFA. Dla kraju zostało przyznane stanowisko wiceprezydenta FIFA, na które został wybrany Walentin Granatkin.
W 1950 Walentin Granatkin objął stanowisko Prezesa Sekcji Piłki Nożnej ZSRR.
6 maja 1959 na konferencji inauguracyjnej Sekcja została przekształcona w Związek Piłki Nożnej ZSRR. Związek Piłki Nożnej miał na celu organizację mistrzostw, stosunków międzynarodowych i rozwój radzieckiej piłki nożnej w całości.