Uno dei "tre grandi" (gli altri erano Wil Hartog e Boet van Dulmen) del motociclismo olandese, Middelburg aveva iniziato a correre in moto nel 1973 (l'esordio sul circuito cittadino di Woudrichem). Dopo un apprendistato nella NMB, divenne campione olandese nel 1977 e nel 1978. Le vittorie a livello nazionale spinsero Middelburg verso il Motomondiale, dove si fece notare per la sua guida impetuosa, tanto da meritarsi il soprannome "Jumping Jack" (dalla canzone dei Rolling StonesJumpin' Jack Flash).
L'esordio di Middelburg nel Mondiale fu al GP d'Olanda 1977, terminato all'11º posto in 350 e in 500. Il primo podio di Middelburg arrivò al GP di Svezia 1979 (2º posto), terminando settimo a fine stagione. Sempre da pilota privato, questa volta con una Yamaha TZ 500, corse anche nel 1980, anno in cui conquistò la sua prima vittoria, nella gara di casa, dopo essere partito dalla pole position (secondo olandese a vincere ad Assen dopo Hartog).
Il 1981 rivide Middelburg su una Suzuki RG 500: si fece notare vincendo il GP di Gran Bretagna davanti al campione uscente Kenny Roberts. La vittoria dell'olandese (7º a fine stagione in classifica) fu l'ultima in 500 per un pilota privato. Il 1982 fu privo di soddisfazioni per l'olandese, a punti solo in tre occasioni (Argentina, Jugoslavia e San Marino), tanto da spingerlo ad acquistare una delle nuove Honda RS 500 R tre cilindri per la stagione '83, terminata al 12º posto.
Il 1º aprile 1984, partecipando al circuito di Tolbert (gara del Campionato olandese), Middelburg cadde cercando di andare in testa alla gara; ricoverato presso l'ospedale di Groninga, morirà due giorni dopo[1].