W 1946 trafił na Broadway w roli żołnierza w sztuce Bena Hechta Narodziny flagi u boku Marlona Brando. W 1947 dołączył do nowo utworzonego Actors Studio. W 1948 dostał małą rolę marynarza Stefanowskiego w przebojowym przedstawieniu na Broadwayu Mister Roberts w reżyserii Joshuy Logana.
Na kinowym ekranie po raz pierwszy pojawił się jako Jack w dramacie kryminalnym noir Dama bez paszportu (A Lady Without Passport, 1950) z Hedy Lamarr. Wystąpił także w drugoplanowych rolach w tak znanych filmach jak: Orły Temidy (1986), Zgaga (1986) czy Firma (1993). Przez 10 lat grał jedną z głównych ról w serialu Prawo i porządek (1990-2010).
8 kwietnia 1951 zawarł związek małżeński z Selmą Stern, z którą miał czworo dzieci. W 1964 doszło do rozwodu. W 1967 ożenił się z Rachel Schenker, którą miał pięcioro dzieci.
Był jednym z niewielu ortodoksyjnych aktorów żydowskich pracujących przez większą część swojej kariery. Zmarł 23 sierpnia 2016 w szpitalu w Nowym Jorku na nowotwór złośliwy.