W lipcu 1971 roku McDonnell Douglas wygrał rządowy kontrakt na rozwój systemu i w maju 1973 roku United States Navy wybrała Harpoon na swój podstawowy pocisk przeciwokrętowy (Anti-Surface Vessel – ASV) w wersjach przeznaczonych do przenoszenia przez samoloty (AGM-84A), okręty podwodne (UGM-84A) oraz okręty nawodne (RGM-84A)Duncan Lenox: Jane's Strategic Weapon Systems, s. 185-189. Wszystkie trzy systemy weszły do służby w 1977 roku. Od tego czasu powstały i zostały wprowadzone na uzbrojenie kolejne wersje pocisku, oznaczane literowo: A, B, C, D, E, F, G, H, J, K oraz L. W 1979 roku zostały podjęte studia nad nuklearną wersją tego pocisku, wersja ta nigdy jednak nie otrzymała środków finansowych na rozwój.
W ciągu lat nieprzerwanego rozwoju konstrukcji, podjęto wiele programów ulepszania pocisku w wyniku których powstały wersje Block 1B, 1C, 1D, 1E (SLAM), 1G, 1H (SLAM-ER), 1J (Harpoon 200), 1K oraz 1L (Block 2). Początkowy standard pocisku Block 1 oznaczony był jako AGM / RGM / UGM-84A na wyposażeniu wojsk USA oraz UGM-84B w służbie brytyjskiej. Block 1B posiadał desygnację AGM / RGM / UGM-84C, Block 1C zaś AGM / RGM / UGM-84D. Block 1D RGM-84F został anulowany przed wejściem do służby, Block 1E AGM-84E (znany także jako Stand-off Land Attack Missile – SLAM), Block 1G AGM / RGM / UGM-84G oraz SLAM-ER oznaczony jako AGM-84H.