Milito speelde in eigen land van 1997 tot 2003 voor Independiente, na eerder in de jeugdelftallen van deze club te hebben gespeeld. De verdediger won met Los Diablos Rojos in 2002 de Apertura van de Primera División de Argentina. Milito werd in 2003 gecontracteerd door Real Zaragoza, nadat een transfer naar Real Madrid op het laatste moment niet doorging.
Bij Los Blanquillos won hij in 2004 de Copa del Rey en de Supercopa de España en Milito speelde vanaf 2005 samen met zijn broer Diego Milito, die aanvaller is. In juli 2007 vertrok de verdediger voor 17 miljoen euro naar FC Barcelona. In zijn eerste seizoen bij Barça overtuigde Milito direct en hij vormde meestal met aanvoerder Carles Puyol het centrale verdedigingsduo. Eind april 2008 liep hij in de UEFA Champions League-wedstrijd tegen Manchester United een zware knieblessure op.
In december 2009 maakte Milito zijn rentree bij FC Barcelona, waarmee hij in het seizoen 2009/10 de Primera División won. Op 15 augustus 2011 werd bekend dat Milito per direct terugkeerde naar zijn oude club Independiente. De reden dat Milito bij FC Barcelona niet in aanmerking kwam voor een nieuw contract was vanwege zijn vele blessures.
Op 12 juni 2012 kondigde hij aan definitief te stoppen met voetballen. Ondanks zijn relatief jonge leeftijd, voelde hij zich mentaal en fysiek niet goed genoeg meer om verder te spelen.