Né le 26 mars 1907 à Gassicourt (Seine et Oise), Charles Ailleret fait ses études au lycée Louis-le-Grand à Paris et entre à Polytechnique dans la promotion 1926. Il en sort dans l’artillerie et occupe en métropole, jusqu’à la deuxième guerre mondiale, des postes à dominante technique ou d’état-major. Capitaine en 1939, il est affecté à l’inspection générale de l’artillerie. En août 1940, il est détaché à Turin auprès de la commission franco-italienne d’armistice. En décembre 1942, après l’invasion de la zone non occupée par les forces allemandes, il rejoint l’O.R.A. (Organisation de Résistance de l’Armée) dont il devient le commandant  pour la zone nord. En juin 1944, il est arrêté et déporté à Buchenwald d’où il revient en avril 1945. En septembre 1945, lieutenant-colonel, il est affecté au poste de l’attaché militaire à Moscou ; en mars 1946, il est au cabinet de l’état-major de l’armée de terre. Il est promu colonel en 1947 et détaché dans l’infanterie au commandement  de la 43e demi-brigade de parachutistes. En janvier 1951, il est au quartier général du commandement des forces alliées en Europe jusqu’en décembre de la même année quand  il prend le commandement des armes spéciales de l’armée de terre. En novembre 1955, il est à l’état-major particulier d’Henry Laforest, secrétaire d’état aux forces armées dans le cabinet Edgard Faure. Promu général de brigade le 1er juillet 1956, il est, en 1958, commandant interarmées des armes spéciales. Général de division le 1er septembre 1959, il dirige les opérations conduisant, le 13 février 1960, à l’explosion de la première bombe « A » française  à Reggane, au Sahara. Affecté au commandement de la 2e D.IM. et de la zone Est Constantinois, il arrive à Bône le 5 juin 1960 pour prendre les consignes du général Dulac, son prédécesseur. Le 15 juin, la zone Est-Constantinois est scindée en deux et Charles Ailleret prend le commandement de la zone réduite, nouvellement créée, du Nord-Est Constantinois.
A la fin d’avril 1961, le général Ailleret s’oppose au coup de force d’Alger dirigé par les généraux Challe, Jouhaud, Salan et Zeller avec, semble-t-il quelques nuances : Le mardi 25 avril, à la demande du maire de Bône, M. Grauby, il signe un communiqué destiné à la population civile indiquant que son sentiment le plus profond est de voir l’Algérie demeurer française.  
Il commande le corps d’armée de Constantine le 26 avril 1961, est promu général de corps d’armée le 13 juin 1961 et prend les fonctions de commandant supérieur interarmées en Algérie le même jour. C’est lui qui, le 19 mars 1962 donne l’ordre à l’armée française de cesser le feu contre l’A.L.N. après la conclusion des pourparlers d’Evian. Il conserve ses fonctions jusqu’au 18 avril 1962, puis est promu général d’armée et nommé chef d’état-major général de la défense nationale le 16 juillet 1962. Il organise le retrait de la France du commandement intégré de l’O.T.A.N. en 1966 et se fait le théoricien d’une défense nucléaire française « tous azimuts ».
Le 9 mars 1968, au retour d’un voyage officiel à l’île de la Réunion, il meurt avec sa femme et sa fille dans l’accident d’un avion de l’armée de l’air qui fait 19 victimes.
Charles Ailleret était Grand-croix de la légion d’honneur, titulaire de la croix de guerre 1939-1945, de la médaille de la résistance et de la croix de la valeur militaire avec trois citations dont une à l’ordre de l’armée décernée le 21 avril 1962, le lendemain de l’arrestation de Raoul Salan et quelques semaines après l’ordre de cesser le feu et la fusillade du 26 mars à Alger qui fit plus de 80 victimes parmi la population européenne. Il est l’auteur de « L’aventure atomique française » (1968) et de « Général du contingent » (1998), tous deux publiés chez Grasset.

En 1955, le  général Salan, commandant désigné d’une armée de réserve, reçoit dans son bureau des Invalides le colonel Ailleret qui a publié dans la Revue de Défense Nationale un article sur les armes spéciales. En octobre 1957, à Alger, lors du retour d’une mission à Reggane, le général Ailleret fait un exposé sur la réalisation et l’utilisation du site de Reggane au commandant en chef, le général Salan, qui l’écoute d’une oreille distraite, ce qui ulcère  Ailleret. Le 20 avril 1962, le général Salan, chef de l’O.A.S. est arrêté et transféré par hélicoptère au P.C. de La Reghaïa où le général Ailleret, qui n’est plus depuis quelques jours commandant supérieur en Algérie, l’apostrophe : « J’espère que vous me reconnaissez. Le moment est venu de payer vos crimes ». Raoul Salan reste silencieux. Au procès de Raoul Salan, le 16 mai 1962, le général Ailleret est le premier témoin à être entendu, cité à la fois par l’accusation et par la défense. Il insiste sur le fait que Raoul Salan était effectivement le chef de l’O.A.S., affirmation contradictoire avec celle figurant dans « Général du contingent » où le général Salan est qualifié de « chef nominal » ou de « général symbolique » : Raoul Salan garde le silence observé depuis sa déclaration liminaire.