Mimo porażki w meczu z Shortem, Karpow do połowy lat 90. utrzymywał drugie miejsce w rankingu najlepszych szachistów. W 1994 roku w superturnieju w Linares (Hiszpania) osiągnął swój największy sukces w karierze, wygrywając zawody z przewagą aż 2½ punktu nad Kasparowem i Szyrowem. Uzyskany wówczas rezultat turniejowy (ponad 3000 ELO) jest kolejnym rekordem Karpowa, do dziś nie pobitym. Udany dla Karpowa był również rok 1995 – wygrał silnie obsadzone turnieje w Dos Hermanas, Linares i Groningen. Zwyciężył również w finałowym meczu pretendentów z Borysem Gelfandem. W 1996 roku, w meczu o mistrzostwo świata FIDE, łatwo pokonał młodego gwiazdora Gatę Kamskiego wynikiem 10½ – 7½. W 1998 roku ponownie zwyciężył w mistrzostwach świata FIDE, rozgrywanych jednak w nowej formule. Regulamin tych mistrzostw stawiał go w uprzywilejowanej pozycji, ponieważ jego przeciwnik Viswanathan Anand przystąpił do meczu po wyczerpującym turnieju eliminacyjnym, z udziału w którym Karpow był zwolniony. Ten przepis zmieniono w następnych latach, czego nie chciał zaakceptować Karpow i do następnych edycji mistrzostw świata już nie przystąpił.