miközben a hamburgi Egyetemen doktorált, Celenza 1996-ban adjunktus lett, majd később a történelem docense Michigani Állami Egyetem. Ebben az időszakban végül kinevezték egyetemi tanárnak és egyetemi docensnek. 2005-ben Celenza csatlakozott a Johns Hopkins Egyetem karához, pozíciókat töltött be a történelem, a német és a román nyelvek és irodalmak, valamint a klasszikusok tanszékein. Ott tartózkodása alatt a Charles Singleton Premodern Európa tanulmányi központjának alapítója is volt, amelynek első igazgatója volt 2008-tól 2010-ig. 2008-ban Celenza Guggenheim ösztöndíjat kapott.

2010-ben Celenza szabadságot vett a Johns Hopkins-tól, hogy a Római Amerikai Akadémia 21.igazgatója legyen, utódja Carmela Vircillo Franklin. Ezt a pozíciót 2014-ig töltötte be, amikor utódja volt Kimberly Bowes. Igazgatói posztját követően Celenza visszatért a Johns Hopkinsba, ahol 2014-től 2016-ig a klasszikusok tanszékének elnöke, valamint Charles Homer Haskins klasszikusprofesszor lett. Egy évig a Krieger School of Arts and Sciences bölcsész-és társadalomtudományi dékánhelyettese volt. Celenzát később kinevezték a Johns Hopkins Kari ügyekért felelős alelnökévé. A Johns Hopkins-ban töltött ideje alatt segített az Alexander Grass humán Intézet megalapításában is.

2. március 2017-én a Georgetown Egyetem elnöke, John DeGioia bejelentette, hogy Celenza lesz a Georgetown College dékánja, Chester Gillis utódja. Hivatalosan átvette a pozíciót július 1, 2017. Egyidejűleg a történelem és a klasszikusok professzorai is.

22. október 2020-én a Johns Hopkins elnöke, Ronald Daniels Celenzát James B. Knapp dékánnak nevezte a Krieger Művészeti és Tudományos Iskola, hatályos 4.január 2021.