Il suo fratellastro maggiore, Pipino il Gobbo, era stato inviato al monastero di Prüm nel 792 dopo essere stato coinvolto in una ribellione contro il loro padre, Carlo Magno. Dei suoi fratelli minori, Carlomanno (ribattezzato Pipino) e Luigi il Pio, furono nominati sotto-re d’Italia e d’Aquitania.

Carlo era principalmente preoccupato per i Bretoni, di cui condivideva il confine e che si ribellarono in almeno due occasioni e furono facilmente abbattuti, ma fu anche inviato contro i Sassoni in più occasioni. Il padre di Carlo sopravvisse a lui, tuttavia, e l’intero regno andò così a suo fratello minore Luigi il Pio, anche Pipino essendo morto.

Intorno al 789, Carlo Magno suggerì che Carlo il Giovane fosse sposato con la figlia di Offa, Ælfflæd. Offa ha insistito sul fatto che il matrimonio potrebbe andare avanti solo se la figlia di Carlo Magno Bertha era sposata con il figlio di Offa Ecgfrith. Carlo Magno si offese, interruppe i contatti e chiuse i suoi porti ai commercianti inglesi. Alla fine, le normali relazioni furono ristabilite e i porti furono riaperti. Pochi anni dopo, nel 796, Carlo Magno e Offa conclusero il primo trattato commerciale conosciuto nella storia inglese.

Suo padre associò Carlo nel governo della Francia e della Sassonia nel 790, e lo installò come sovrano del ducatus Cenomannicus (corrispondente al successivo Ducato del Maine) con il titolo di re. Carlo fu incoronato re dei Franchi a Roma il 25 dicembre 800, lo stesso giorno in cui suo padre fu incoronato imperatore.

Uccise il duca sorabo Miliduch e lo slavo Knez, Nussito (Nessyta) vicino all’odierna Weißenfels in una campagna franca nell ‘ 806.

Il 4 dicembre 811, in Baviera, Carlo ebbe un ictus e morì. Non ha lasciato figli. In materia di Francia, Charles è romanzato come Charlot.