Sein ältester Halbbruder, Pippin der Glöckner, war 792 nach einem Aufstand gegen ihren Vater Karl den Großen ins Kloster Prüm geschickt worden. Von seinen jüngeren Brüdern, Karloman (umbenannt in Pippin) und Ludwig der Fromme, wurden Unterkönige von Italien und Aquitanien ernannt.Karl war hauptsächlich mit den Bretonen beschäftigt, deren Grenze er teilte und die mindestens zweimal rebellierten und leicht niedergeschlagen wurden, aber er wurde auch mehrmals gegen die Sachsen geschickt. Karls Vater überlebte ihn jedoch, und das ganze Königreich ging so an seinen jüngeren Bruder Ludwig den Frommen, wobei auch Pippin gestorben war.

Um 789 wurde von Karl dem Großen vorgeschlagen, dass Karl der Jüngere mit Offas Tochter Ælfflæd verheiratet werden sollte. Offa bestand darauf, dass die Ehe nur fortgesetzt werden könne, wenn Karls Tochter Bertha mit Offas Sohn Ecgfrith verheiratet sei. Karl der Große nahm Anstoß, brach den Kontakt ab und schloss seine Häfen für englische Händler. Schließlich wurden normale Beziehungen wieder hergestellt und die Häfen wieder geöffnet. Nur wenige Jahre später, 796, schlossen Karl der Große und Offa den ersten Handelsvertrag der englischen Geschichte.Sein Vater verband Karl 790 mit der Regierung von Franken und Sachsen und setzte ihn als Herrscher des Ducatus Cenomannicus (entsprechend dem späteren Herzogtum Maine) mit dem Titel eines Königs ein. Karl wurde am 25. Dezember 800 in Rom zum König der Franken gekrönt, am selben Tag, an dem sein Vater zum Kaiser gekrönt wurde.806 tötete er in einem fränkischen Feldzug den sorbischen Herzog Miliduch und den slawischen Knez Nussito (Nessyta) bei Weißenfels.Am 4. Dezember 811 erlitt Karl in Bayern einen Schlaganfall und starb. Er hinterließ keine Kinder. In Frankreich wird Charles als Charlot fiktionalisiert.