De club werd in 1948 opgericht en trad op de voorgrond van het Sloveense voetbal na de onafhankelijkheid van Joegoslavië. Voor de onafhankelijk was de club ook al twee keer kampioen (1977 en 1991) maar toen was de Sloveense competitie een onderdeel van de Joegoslavische.
Rudar was een middenmoter de eerste jaren van de competitie. Pas in 1998/99 liet de club zich opmerken door 3de te eindigen, die plaats werd het volgende seizoen herhaald. Na twee mindere prestaties degradeerde Rudar in 2003 naar de tweede klasse. Het volgende seizoen werd de club kampioen, maar trok zich terug uit de eerste klasse en bleef in de 2de klasse waar opnieuw de titel behaald werd. De terugkeer naar de hoogste klasse was slechts eenmalig, Rudar eindigde als 10e en laatste waardoor de club in 2006/07 opnieuw in de tweede klasse speelt. In 2008 werd de club kampioen en promoveerde opnieuw.
De navolgende Europese voetballers kwamen als speler van NK Rudar Velenje (of een van de voorgangers van de club) uit voor een vertegenwoordigend A-elftal. Tot op heden[1] is Marinko Galič degene met de meeste interlands achter zijn naam. Hij kwam als speler van NK Rudar Velenje in totaal zes keer uit voor het Sloveense nationale elftal.