podczas studiów doktoranckich na Uniwersytecie w Hamburgu, Celenza został adiunktem w 1996 roku, a później profesorem historii na Michigan State University. W tym okresie został mianowany profesorem zwyczajnym i kierownikiem Katedry Studiów Podyplomowych na tej uczelni. W 2005 roku Celenza dołączyła do Wydziału Johns Hopkins University, zajmując stanowiska w wydziałach historii, języków i literatury niemieckiej i Romańskiej oraz klasyki. W tym czasie był także założycielem Charles Singleton Center for the Study of Premodern Europe, którego był pierwszym dyrektorem w latach 2008-2010. W 2008 roku Celenza otrzymała Stypendium Guggenheima.

w 2010 roku Celenza wzięła urlop na Uniwersytecie Johnsa Hopkinsa i została 21.dyrektorem Amerykańskiej Akademii w Rzymie, zastępując Carmelę Vircillo Franklin. Zajmował to stanowisko do 2014 roku, kiedy to zastąpił go Kimberly Bowes. Po objęciu funkcji dyrektora Celenza powrócił do Johns Hopkins, gdzie w latach 2014-2016 był kierownikiem Katedry klasyki i profesorem klasyki Charlesa Homera Haskinsa. Przez rok pełnił funkcję prodziekana ds. nauk humanistycznych i społecznych w Krieger School of Arts and Sciences. Celenza został następnie mianowany prorektorem do spraw Wydziału Johns Hopkins. W czasie studiów na Uniwersytecie Johnsa Hopkinsa pomagał również w założeniu Instytutu Humanistycznego im. Alexandra Grassa.

2 marca 2017 roku prezydent Georgetown University, John DeGioia, ogłosił, że Celenza zostanie dziekanem Georgetown College, zastępując Chestera Gillisa. Oficjalnie objął to stanowisko 1 lipca 2017. Równocześnie jest profesorem historii i klasyki.

22 października 2020 roku prezydent Johns Hopkins Ronald Daniels mianował Celenzę dziekanem Krieger School of Arts and Sciences, z dniem 4 stycznia 2021 roku.