Le département a été créé à la Révolution française, le 4 mars 1790, en application de la loi du 22 décembre 1789, à partir d'une partie des anciennes provinces de Champagne et d'Argonne, de plusieurs principautés, dont celles d'Arches et de Sedan, de comtés (comme Rethel) et de différents territoires rattachés à la France (provenant des anciens Pays-Bas espagnols) jusqu'au XVIIIe siècle. Le 12 mai 1793, le département s'agrandit du bailliage liégeois de Couvin et du comté d'Empire de Fagnolle et le 26 octobre 1795 du duché de Bouillon.
Le 20 novembre 1815, le deuxième traité de Paris soustrait au département des Ardennes pour les rattacher au royaume des Pays-Bas les territoires de Bouillon, Couvin, Mariembourg, Fagnolle et Philippeville.
Le 2 septembre 1870, Sedan est lieu de la capitulation de Napoléon III lors de la Bataille de Sedan face aux troupes des états allemands coalisés commandées par Helmut von Moltke, Le roi de Prusse Guillaume Ier, (Wilhelm I), futur empereur du IIe Reich sous le même nom, et Bismarck assistent à la bataille depuis des collines dominant Sedan. La défaite sonne le glas du Second Empire. Pendant les deux conflits mondiaux, pour des raisons stratégiques la région est à chaque fois le lieu de passage de l'invasion ennemie, à cause de la faible largeur de la Meuse et sa vallée encaissée. Les militaires français considèrent que la région se défend toute seule de par son relief et ses forêts épaisses présentes sur le nord du département et négligent la défense de ce territoire.
Pendant la Première Guerre mondiale, Charleville est le QG du Kronprinz, c'est à Vouziers, entre autres, que se sont battues les Légions tchécoslovaques avec celui qui allait devenir le premier président de la république, Masaryk et c'est aussi à côté de cette même ville qu'a été abattu l'avion de Roland Garros. C'est le seul département français à avoir été occupé entièrement pendant la durée du conflit hormis le nord de la Lorraine (Moselle) et l'Alsace, qui étaient sous administration allemande depuis 1871. Lors de la Seconde Guerre mondiale, l'effort principal de l'armée allemande s'est porté sur ce territoire, nvotamment sur la rive droite de la Meuse, symbolisé par la percée de Sedan qui allait entrainer les troupes françaises dans le piège stratégique du Plan jaune conçu par le général von Mainstein et approuvé par Hitler. C'est dans ce département que finissait la ligne Maginot : le dernier fort de cette ligne (fort de Villy la Ferté) se situe à environ cinq kilomètres de Carignan. L'état-major français ne voulait pas continuer la ligne de défense le long de la frontière avec la Belgique, pays neutre et ami. De plus, il espérait que la géographie particulière et la forêt pourrait arrêter l'armée allemande. Après l'armistice de 1940, les Ardennes ont été déclarées "zone interdite" (en fait zone de peuplement allemand) pendant toute l'occupation par l'armée nazie