McKim ble født I Chester County, Pennsylvania. Hans foreldre Var James Miller McKim, En Presbyteriansk prest, Og Sarah Speakman McKim. De var aktive abolisjonister og han ble oppkalt Etter Charles Follen, en annen abolisjonist og En Unitaristisk minister. Etter Å ha gått På Harvard University, studerte han arkitektur ved É des Beaux-Arts i Paris før han begynte På Kontoret Til Henry Hobson Richardson i 1870. McKim dannet sitt eget firma i samarbeid Med William Rutherford Mead, sluttet seg i 1877 Av andre Richardson prot@gé Stanford White.
i ti år ble firmaet først og fremst kjent for sine åpne uformelle sommerhus. McKim ble best kjent som en eksponent For Beaux-Arts arkitektur i stiler av Den Amerikanske Renessansen, eksemplifisert Ved Boston Public Library (1888-95), og flere verk I New York City, inkludert Morningside Heights campus Of Columbia University (1893), University Club Of New York (1899), Pierpont Morgan Library (1903), New York Penn Station (1904-10), Og Butler Institute Of American Art I Youngstown, Ohio (1919). Han tegnet Howard Mansion (1896) i Hyde Park, New York.McKim, med Hjelp Av Richard Morris Hunt, var medvirkende i dannelsen Av American School Of Architecture I Roma i 1894, som har blitt American Academy I Roma, og designet de viktigste campus bygninger med firmaet McKim, Mead, Og White.McKim giftet Seg Først Med Annie Bigelow i 1874 og etter skilsmisse Giftet Bigelow Seg Med Julia Amory Appleton i 1885.McKim døde 62 år gammel i St. James I New York den 14. September 1909.McKim var medlem av Kongresskommisjonen for forbedring Av Washington park-systemet, New York Art Commission, Accademia di San Luca (Roma, 1899), American Academy I Roma og Architectural League. Han var æresmedlem og tidligere president For American Institute Of Architects, og æresmedlem Av Society Of Mural Painters. Han ble En Nasjonal Akademiker i 1907. Han tilhørte University, Lambs, Racquet Og Tennis Klubber I New York, Og Til St. Botolph Og Somerset Klubber I Boston.