Die Abtei , von der nur wenige Überreste erhalten sind, wurde 1132 gegründet und war eine der reichsten Abteien Englands. Die Steine der in der Reformationszeit zerstörten Anlage wurden danach für den Bau des benachbarten Cavendish House verwendet. Sie diente Karl I. auch als Hauptquartier vor der Schlacht von Naseby (1645).