Родился в 1917 году в г. Омске в семье рабочего. В 1928 году Марковы переехали в Борисовский зерносовхоз Шербакульского района, где Анатолий с 1934 года был рабочим и учился в школе. В 1938 году окончил десять классов Шербакульской средней школы и был принят в Ленинградское высшее военно-морское училище им. М. В. Фрунзе. После окончания его в 1942 году был направлен на фронт и служил на боевых кораблях Черноморского флота. Старший лейтенант. Беспартийный. Участвовал в боях за оборону Одессы, Севастополя, в десантных операциях Черноморского флота. Освобождал Новороссийск, Керчь, Тамань, Севастополь, Одессу, Констанцу, Варну. Награжден: орденами Ленина, Красного Знамени, Красной Звезды, несколькими медалями. Указом Президиума Верховного Совета СССР 22 февраля 1944 года присвоено звание Героя Советского Союза.