John Clark ble født 13. mars 1941 og kom til Celtic 17 år gammel i 1958. Han kom fra fattige kår, mistet faren sin i en trafikkulykke da han var ti år gammel og jobbet som gruvearbeider fra han var 15 år til han kom til Celtic. Rask etablerte Clark seg på Celtic og da Jock Stein overtok som trener i 1965 ble han flyttet fra venstreback til midtstopper. Sammen med kapteinen Billy McNeill utgjorde Clark et meget godt midtstopperpar. Han fikk tilnavnet «the brush» grunnet seg gode evne til å vinne ballen. Mellom april 1965 og september 1967 spilte Clark 140 kamper på rad. Han var en del av Celtics lag som vant daværende europacupen for serievinnere (nå Champions League) ved å slå Inter 2-1 i fianlen i Lisboa i mai 1967.  Etter sesongen 1970/71 forlot Clark Celtic til fordel for Greenock Morton før ha la støvlene på hylla to år seinere. Clark fikk fire A-landskamper for Skottland. 

Han vendte tilbake til Celtic i 1973 og ble av trenerne for klubbens reservelag. I 1977 forlat han Celtic og ble McNeills assistent i Aberdeen før duoen tok over ansvaret for Celtic i perioden 1978 til 1983. Clark trente klubber i lavere divisjoner før han returnerte til i Celtic i 1997 som klubbens materialforvalter. Dette var en stilling han hadde i 20 år. Totalt var Clark ansatt i Celtic i imponerende Celtic i 50 år. 

Totalt spilte Clark 182 kamper og scoret et mål for klubben. Han sovnet stille inn 23. juni 84 år gammel. Nå er det kun Jim Craig, Wille Wallace og Bobby Lennox av de 11 som spilte i 1967 som fortsatt er i live.