L'hôtel a été construit par Mathurin Cherpitel pour la marquise de Courteille qui s'était engagée lors du mariage de sa fille avec Emery Louis Roger comte de Rochechouart à loger le couple. Le terrain fut acquis en 1776 et le choix se porta sur Cherpitel qui venait de construire un hôtel pour le comte et la comtesse du Châtelet, cette dernière étant la soeur de la Rochechouart. L'hôtel fut vendu en 1804 au maréchal d'Empire Augereau. Sa veuve loue l'hôtel au gouvernement en 1820 pour y loger le ministère de l'Instruction publique qui l'achète en 1829 et entreprend d'importants travaux sous la direction de l'architecte Gisors.