Chauncy nació en la clase de comerciantes puritanos de élite que gobernó Boston, Massachusetts. Su bisabuelo, Charles Chauncy, de quien fue nombrado, fue el segundo presidente de la Universidad de Harvard. Su padre era un exitoso comerciante de Boston. Chauncy se educó en la Escuela Latina de Boston y en Harvard, donde recibió su licenciatura y su maestría en teología. En 1727, Chauncy fue ordenado ministro asistente de la Primera Iglesia de Boston, la iglesia Congregacional más antigua de la ciudad y una de las más importantes de Nueva Inglaterra. En 1762, Chauncy se convirtió en pastor de la Primera Iglesia. Sirvió a la congregación durante 60 años hasta su muerte.

Chauncy fue un oponente del Primer Gran Despertar, que dividió las iglesias Congregacionales entre facciones de Luz Antigua y Luz Nueva. Como líder de las Luces Antiguas, Chauncy habló en contra del entusiasmo religioso suscitado por los predicadores del avivamiento. Chauncy también fue un líder de la oposición contra el nombramiento de un obispo anglicano para las colonias americanas. Durante la Revolución Americana, apoyó la causa Patriota a través de sermones y panfletos. Según los estudiosos de estudios religiosos Norman y Lee Gibbs, Chauncy merece el título de «teólogo de la Revolución Americana».

Chauncy fue miembro fundador de la Academia Americana de las Artes y las Ciencias (1780) y recibió un Doctorado honorario en Divinidad de la Universidad de Edimburgo. Fue reconocido por la Sociedad Histórica de Massachusetts (cuando su retrato fue colgado allí) como » eminente por su talento, aprendizaje y amante de la libertad, civil y religiosa.»