Su hermanastro mayor, Pipino el Jorobado, había sido enviado al monasterio de Prüm en 792 después de haber estado involucrado en una rebelión contra su padre, Carlomagno. De sus hermanos menores, Carlomán (rebautizado Pipino) y Luis el Piadoso, fueron nombrados sub-reyes de Italia y Aquitania.

Carlos estaba principalmente preocupado por los bretones, cuya frontera compartía y que se rebeló al menos en dos ocasiones y fue fácilmente derribado, pero también fue enviado contra los sajones en múltiples ocasiones. El padre de Carlos le sobrevivió, sin embargo, y todo el reino pasó a su hermano menor Luis el Piadoso, Pipino también había muerto.

Alrededor de 789, Carlomagno sugirió que Carlos el Joven se casara con la hija de Offa, Ælfflæd. Offa insistió en que el matrimonio solo podía seguir adelante si la hija de Carlomagno, Bertha, estaba casada con el hijo de Offa, Ecgfrido. Carlomagno se ofendió, rompió el contacto y cerró sus puertos a los comerciantes ingleses. Finalmente, se restablecieron las relaciones normales y se reabrieron los puertos. Pocos años después, en 796, Carlomagno y Offa concluyeron el primer tratado comercial conocido en la historia inglesa.

Su padre asoció a Carlos en el gobierno de Francia y Sajonia en 790, y lo instaló como gobernante del ducado Cenomannicus (correspondiente al posterior Ducado de Maine) con el título de rey. Carlos fue coronado Rey de los Francos en Roma el 25 de diciembre de 800, el mismo día en que su padre fue coronado Emperador.

Mató al duque sorabo Miliduco y al eslavo Knez, Nussito (Nessyta) cerca de la actual Weißenfels en una campaña franca en 806.

El 4 de diciembre de 811, en Baviera, Carlos tuvo un derrame cerebral y murió. No dejó hijos. En el Caso de Francia, Carlos es ficticio como Charlot.