Cheng nació en Luoyang, Henan, en 1033. Cheng entró en la universidad nacional en 1056, y recibió el título de «becario presentado» en 1059. Vivió y enseñó en Luoyang, y declinó numerosos nombramientos a altos cargos. Hizo campaña contra las políticas reformistas de Wang Anshi, y después de que los reformistas fueran despedidos de su cargo, fue nombrado expositor en espera en 1086 para comenzar a dar conferencias al emperador sobre el confucianismo. Era más agresivo y obstinado que su hermano, e hizo varios enemigos, incluyendo a Su Shi, el líder del grupo de Sichuan. En 1097, sus enemigos pudieron prohibir sus enseñanzas, confiscar sus propiedades y desterrarlo. Fue indultado tres años más tarde, pero fue incluido en la lista negra y de nuevo su trabajo fue prohibido en 1103. Finalmente fue indultado en 1106, un año antes de su muerte.

En 1452 el título de Wujing Boshi (五經博士) fue otorgado a los descendientes de Cheng Yi y otros sabios confucianos como Mencio, Zengzi, Zhou Dunyi y Zhu Xi.

Un conocido chengyu refers se refiere a un incidente en el que dos hombres (Yang Shi y You Zuo) solicitaron ser tomados mientras sus discípulos permanecían en la nieve durante horas en su puerta y se convirtieron en ejemplos reconocidos de las virtudes confucianas de la devoción al aprendizaje y el respeto por el maestro.

Se cree ampliamente que Cheng Yi es responsable del surgimiento del culto a la castidad de las viudas. Argumentó que sería impropio que un hombre se casara con una viuda ya que ella había perdido su integridad. Sobre la cuestión de las viudas que se habían empobrecido debido a la muerte de sus maridos, Cheng declaró: «Morir de hambre es un asunto pequeño, pero perder la castidad es un gran asunto.»(餓死事，，大大) La práctica de la castidad de viudas que se hizo común en las dinastías Ming y Qing llevaría a dificultades y soledad para muchas viudas, así como a un aumento dramático de suicidios de viudas durante la era Ming.