De abdij werd in 935 gesticht door de heilige [[Guibertus van Gembloers]] (882?-962) op een rotsachtige uitsprong boven de vallei van de Orneau. De eerste monniken kwamen uit de Franse [[abdij van Gorze]]. De abdij ontwikkelde zich voorspoedig door de schenkingen van Guibertus en navolgers en bezat een uitgestrekt landbouwgebied. In de abdij werkten diverse kopiisten van [[handschrift (boek)|manuscripten]] en de kloosterbibliotheek was beroemd in heel Europa. Een van de bekendste monniken van de abdij was de 11e-eeuwse kroniekschrijver [[Sigisbert van Gembloers]] en zijn abt [[Olbert van Gembloux]] (1012-1048). Een eeuw later was [[Guibert-Martin van Gembloers]] er eveneens actief als schrijver van brieven en hagiografische teksten.
In de 16e en 17e eeuw werd de abdij regelmatig belegerd en geplunderd. Ook waren er problemen met de tucht. In de tweede helft van de 18e eeuw volgde een grote vernieuwing, met de heropbouw van de abdijgebouwen. In 1796 werd de abdij door de Fransen opgeheven en verkocht.
