Chauncy föddes i den elit puritanska handelsklassen som styrde Boston, Massachusetts. Hans farfar, Charles Chauncy, efter vilken han namngavs, var den andra presidenten för Harvard College. Hans far var en framgångsrik Boston-köpman. Chauncy utbildades vid Boston Latin School och vid Harvard, där han fick både sin grundexamen och sin magisterexamen i teologi. År 1727 ordinerades Chauncy som biträdande minister för Bostons första kyrka, den äldsta Församlingskyrkan i staden och en av de viktigaste i New England. År 1762 blev Chauncy pastor i första kyrkan. Han tjänade församlingen i 60 år fram till sin död.

Chauncy var en motståndare till det första stora uppvaknandet, som delade församlingskyrkorna mellan gamla ljus och nya ljusfraktioner. Som ledare för de gamla lamporna talade Chauncy mot religiös entusiasm som väcktes av väckelsepredikanter. Chauncy var också ledare för oppositionen mot att utse en anglikansk biskop för de amerikanska kolonierna. Under den amerikanska revolutionen stödde han Patriot-saken genom predikningar och broschyrer. Enligt religiösa forskare Norman och Lee Gibbs förtjänar Chauncy titeln ”theologian of the American Revolution”.

Chauncy var chartermedlem i American Academy of Arts and Sciences (1780) och beviljades en hedersdoktor i Divinity-examen från University of Edinburgh. Han erkändes av Massachusetts Historical Society (när hans porträtt hängdes där) som ”framstående för sina talanger, lärande och älskare av frihet, civil och religiös.”