W 1956 po raz pierwszy został posłem do Tweede Kamer. Wybierany ponownie w kolejnych wyborach, w niższej izbie Stanów Generalnych zasiadał z przerwami wynikającymi głównie z pełnienia funkcji rządowych do czasu swojej śmierci. Szereg razy był lijsttrekkerem, liderem listy wyborczej PvdA, kierował też frakcją poselską swojej partii. Od kwietnia 1965 do listopada 1966 pełnił funkcję ministra gospodarki w rządzie Jo Calsa. We wrześniu 1966 został wybrany na nowego lidera Partii Pracy.
W 1972 jego partia zdobyła 27,3% głosów. Początkowo pozostała w opozycji, jednak po upadku gabinetu Barenda Biesheuvela w maju 1973 Joop den Uyl objął stanowisko premiera. Zajmował je do grudnia 1977. Partia Pracy wygrała kolejne wybory z wynikiem 33,8% głosów, jednak nie udało się jej zawrzeć trwałej koalicji pomimo kilkumiesięcznych negocjacji prowadzonej przez jej lidera. Do 1981 Joop den Uyl jako przywódca socjaldemokratów był faktycznym liderem opozycji. We wrześniu 1981 został wicepremierem oraz ministrem spraw społecznych i zatrudnienia w rządzie Driesa van Agta. Odpowiadał także w randze ministra za sprawy dotyczące Antyli Holenderskich. Funkcje te pełnił do maja 1982.