Smalling begon op negenjarige leeftijd met voetballen bij Walderslade Boys. Later speelde hij voor Maidstone United, waar hij op zeventienjarige leeftijd het eerste elftal haalde en in datzelfde jaar met de junioren deelnam aan het internationale toernooi in Kamerik.[2] Hij werd in juni 2008 overgenomen door Fulham.
Smalling werd bij Fulham direct aanvoerder van het tweede elftal. Bijna een jaar later, op 24 mei 2009, maakte hij zijn Premier League-debuut. Hij verving die dag Aaron Hughes in de 77e minuut van een wedstrijd tegen Everton. Op 17 september stond hij voor het eerst in de basis in de hoofdmacht van Fulham, tijdens een Europa League-wedstrijd tegen CSKA Sofia. Op 28 december 2009 maakte Smalling zijn basisdebuut in de Premier League, tegen Chelsea. In de 75e minuut van deze wedstrijd maakte hij een eigen goal, waardoor Fulham de wedstrijd verloor.[3]
Op 26 januari 2010 werd aangekondigd dat Smalling Fulham verruilde voor Manchester United. Hij maakte het seizoen 2009/10 wel af bij Fulham, waarna hij naar Manchester vertrok.[4] Smalling werd in zowel het seizoen 2010/11 als dat van 2012/13 landskampioen met Manchester United. Hij verlengde in april 2015 zijn contract tot medio 2019.[5] Op 21 mei 2016 won Smalling de FA Cup met Manchester United. In de finale werd na verlenging met 1-2 gewonnen van Crystal Palace, ondanks een rode kaart voor Smalling in de 105de minuut.
In april 2009 maakte Smalling zijn debuut voor Engeland onder 20 tegen Italië. Vier maanden later maakte hij ook zijn debuut voor Engeland onder 21 tegen Nederland. In de zomer van 2014 speelde hij één groepswedstrijd op het wereldkampioenschap voetbal 2014, het afsluitende duel tegen Costa Rica (0–0) toen Engeland reeds was uitgeschakeld.[6] Op 16 mei 2016 werd Smalling opgenomen in de selectie van Engeland voor het Europees kampioenschap voetbal 2016.[7] Hij kopte op 2 juni 2016 tijdens een met 1–0 gewonnen oefeninterland tegen Portugal zijn eerste doelpunt voor de nationale ploeg binnen.[8] Engeland werd in de achtste finale van het EK uitgeschakeld door IJsland (1–2) na doelpunten van Ragnar Sigurðsson en Kolbeinn Sigþórsson.