Занимался в шахматной секции в Спортпавильоне Златоустовского металлургического завода. В 9 лет получил первый разряд, в 11 лет выполнил норму кандидата в мастера спорта, в 14 лет стал мастером спорта СССР.

В 1969 стал чемпионом мира среди юношей, в 1970 становится чемпионом России, получает звание гроссмейстера.

В 1973 году победил на межзональном турнире в Ленинграде (1-2 места с В. Л. Корчным ) и в 1974 году успешно преодолел все ступени претендентских матчей (в четвертьфинале выиграл у Л. А. Полугаевского (3:0 без учёта ничьих), в полуфинале — у Спасского (4:1), в финале — у В. Л. Корчного (3:2). Начал усиленную подготовку к матчу с Фишером, однако весной 1975 года Фишер после длительных переговоров с ФИДЕ отказался от матча с претендентом, и Анатолий Карпов был провозглашён двенадцатым чемпионом мира по шахматам.

То, что звание чемпиона получено им заслуженно, Карпов доказал, интенсивно и очень успешно выступая в турнирах. Уже в 1975 году он выиграл крупный турнир в Милане, а также ряд менее значительных соревнований (Манила, Ровинь-Загреб и др.). В 1976, 1983 и 1988 годах Карпов выиграл чемпионаты СССР (в 1988 году — вместе с Г. К. Каспаровым).

Противостояние Карпова и Каспарова было одним из самых грандиозных за всю историю шахмат. Всего Карпов и Каспаров провели 5 матчей за звание чемпиона мира — больше, чем какая-либо другая пара соперников (3 раза встречались Ботвинник и Смыслов). Первый матч (начался в 1984 г.) вроде бы не предвещал для чемпиона особых проблем — при регламенте до 6 побед Карпов вёл 5:0. Однако выиграть шестую партию Карпов так и не сумел. Каспаров выдержал натиск, сделал серию ничьих, а потом начал выигрывать. Матч был прерван при счёте 5:3 в пользу Карпова без объявления победителя. В том же 1985 году между теми же противниками начался новый матч, который выиграл Каспаров.

Несмотря на потерю титула, Карпов ещё в течение ряда лет показывал исключительно высокие результаты.

По количеству побед в международных соревнованиях Карпов далеко превзошел всех остальных шахматистов в истории, и его рекорд вряд ли будет когда-либо побит.