Völler won met het Duits voetbalelftal het wereldkampioenschap voetbal 1990. In de achtste finale tegen Nederland werden hij en Frank Rijkaard beiden uit het veld gestuurd. Ook nam Völler deel aan de WK's van 1986 (waar Duitsland tweede werd) en 1994 en de EK's van 1984, 1988 en 1992. In negentig interlands maakte hij 47 doelpunten.
Na zijn actieve loopbaan werd Völler trainer, te beginnen bij Leverkusen. In 2000 werd hij benoemd tot Bundestrainer van de Duitse ploeg. Hij leidde Duitsland naar een finaleplaats tijdens het WK 2002, waarin van Brazilië verloren werd. Nadat Duitsland bij het EK 2004 in de eerste ronde werd uitgeschakeld na een nederlaag tegen een veredeld B-team van Tsjechië nam Völler op 24 juni ontslag. Kort voor het vertrek naar huis verkondigde hij het gevoel te hebben dat alleen "een onbeschadigd iemand met krediet" geschikt is voor de taak van Duitse bondscoach. "Ik draag een rugzak mee", aldus Völler.[1]
Daarna was hij een tijd trainer van AS Roma en Bayer Leverkusen. Van de laatste club werd hij in oktober 2005 sportief directeur. Rudi Völler is sinds februari 2023 technisch directeur[2] van de Duitse nationale ploeg.[3]
Völler is in Duitsland populair. Toen het nationale team minder presteerde en hij in een televisie-interview zijn zelfbeheersing verloor en schold en schuttingtaal uitsloeg, werd hem dat door de Schlachtenbummler niet erg aangerekend.[4] Sinds 2002 is Völler ereburger van de gemeente Hanau.