Koolhof was tijdens zijn voetbalcarrière een spits. Hij begon zijn carrière bij [[SC Veendam]] dat uitkwam in de [[Eerste divisie (voetbal Nederland)|Eerste Divisie]]. Na twee jaar vertrok hij naar [[SBV Vitesse|Vitesse]], dat eveneens in de Eerste Divisie uitkwam. In zijn tweede jaar scoorde hij in 13 wedstrijden 19 keer, waarna [[PSV (voetbalclub)|PSV]] hem begin maart 1982 contracteerde. Met zijn 19 doelpunten werd Koolhof dat jaar clubtopscorer van [[SBV Vitesse|Vitesse]] en in hetzelfde jaar scoorde hij ook nog zeven keer voor PSV. Bij PSV vormde Koolhof een dynamische tandem met de Noor [[Hallvar Thoresen]]. Koolhof had een basisplaats en scoorde in de twee opvolgende seizoenen respectievelijk 22 en 23 keer. Op 23 april 1984 ging Koolhof bij een onschuldige actie door zijn knie. De artsen constateerden niets, maar nog voor het begin van het nieuwe seizoen gaat het opnieuw mis en bleek dat zijn voorste kruisband in de knie kapot was. Koolhof revalideerde twee jaar lang. In het seizoen 1986/87 speelde hij weer, maar toen bleek dat hij zijn oude niveau niet haalde liet PSV Koolhof vertrekken. Koolhof vertrok naar [[FC Groningen]], dat hem een jaar later naar Vitesse liet gaan, waarmee Koolhof terugkeerde naar de Eerste Divisie, maar waarmee Koolhof direct kampioen werd, zodat Vitesse naar de [[Eredivisie (mannenvoetbal)|Eredivisie]] promoveerde. In het eerste jaar [[KNVB beker 1989/90|1989/90]] werd voor het eerst sinds 1927 de bekerfinale gehaald. Op 25 april 1990 in [[Stadion Feijenoord|De Kuip]] verloor Vitesse met 1-0 van PSV. Na één jaar Eredivisie vertrok Koolhof weer naar de Eerste Divisie, naar [[BV De Graafschap|De Graafschap]]. Ook met De Graafschap werd Koolhof kampioen en promoveerde hij naar de Eredivisie. Na een jaar degradeerde De Graafschap weer. In het seizoen 1993/94 beëindigde hij zijn actieve carrière bij [[BV Veendam]]. In oktober 1994 werd hij door De Graafschap, waar hij als jeugdtrainer werkzaam was, wegens veel absenties weer in de ploeg gebracht.
