Cheng wurde 1033 in Luoyang, Henan, geboren. Cheng trat 1056 in die National University ein und erhielt 1059 den Abschluss „Presented Scholar“. Er lebte und lehrte in Luoyang und lehnte zahlreiche Ernennungen in hohe Ämter ab. Er kämpfte gegen die reformistische Politik von Wang Anshi, und nachdem die Reformer aus dem Amt entlassen worden waren, wurde er 1086 zum Expositor-in-Waiting ernannt, um dem Kaiser Vorträge über den Konfuzianismus zu halten. Er war aggressiver und hartnäckiger als sein Bruder und machte sich mehrere Feinde, darunter Su Shi, den Anführer der Sichuan-Gruppe. 1097 konnten seine Feinde seine Lehren verbieten, sein Eigentum beschlagnahmen und ihn verbannen. Er wurde drei Jahre später begnadigt, aber auf die schwarze Liste gesetzt und sein Werk 1103 erneut verboten. Er wurde schließlich 1106, ein Jahr vor seinem Tod, begnadigt.

1452 wurde den Nachkommen von Cheng Yi und anderen konfuzianischen Weisen wie Mencius, Zengzi, Zhou Dunyi und Zhu Xi der Titel Wujing Boshi (五經博士) verliehen.Ein bekanntes Chengyu 程門立雪 bezieht sich auf einen Vorfall, als zwei Männer (Yang Shi und You Zuo), die darum baten, als seine Schüler aufgenommen zu werden, stundenlang im Schnee vor seiner Tür standen und zu bekannten Beispielen der konfuzianischen Tugenden der Hingabe an das Lernen und des Respekts vor dem eigenen Meister wurden.Es wird allgemein angenommen, dass Cheng Yi für den Aufstieg des Kultes der weiblichen Keuschheit verantwortlich ist. Er argumentierte, dass es für einen Mann unangemessen wäre, eine Witwe zu heiraten, da sie ihre Integrität verloren habe. Auf die Frage der Witwen, die durch den Tod ihrer Ehemänner verarmt waren, Cheng erklärte: „Verhungern ist eine kleine Sache, aber die Keuschheit zu verlieren ist eine große Sache.“ (餓死事小，失節事大) Die Praxis der Witwen-Keuschheit, die in der Ming- und Qing-Dynastie üblich wurde, würde für viele Witwen zu Not und Einsamkeit sowie zu einem dramatischen Anstieg der Selbstmorde durch Witwen während der Ming-Ära führen.