Kuffour speelde jarenlang bij Bayern München. Hij begon in de jeugd van de Duitse club en in het seizoen 1994/95 debuteerde hij in het eerste elftal. Een seizoen later werd Kuffour verhuurd aan 1. FC Nürnberg, maar in 1996 keerde hij terug bij Bayern München en de Ghanees werd een belangrijke waarde. Kuffour won met Bayern München de UEFA Champions League (2001) evenals diverse landstitels. In het seizoen 2004/05 zat Kuffour vooral op de bank en in 2005 besloot hij daarom te vertrekken naar AS Roma.
Op 28 januari 2008 werd bekend dat Kuffour overstapt naar Ajax als vervanger van de gestopte aanvoerder Jaap Stam. Hij tekende voor een half jaar met een optie tot een met tweejarige verlenging. Hij kreeg echter op 19 mei 2008 te horen dat hij kon vertrekken.[1]
In de zomer van 2008 zou hij een contract tot eind 2008 getekend hebben bij het Russische FC Khimki. Op 8 september bleek dit niet te kloppen, ook werd hij nog gelinkt aan Chicago Fire, maar dat ging uiteindelijk niet door. Gerucht was dat hij in 2009 ging spelen bij Asante Kotoko in zijn geboorteland, maar ook dit bleek later niet waar te zijn.
Op 25 mei 2010 maakte Kuffour bekend te stoppen met het beoefenen van profvoetbal.[2]