La caisse d'épargne s'installe en 1888 sur l'emplacement de deux maisons particulières de la rue du Miroir, dont l'une était l'hôtel du Chapeau rouge, construit en 1723 pour Nicolas Charlot et remanié par l'architecte Jean-Baptiste Chamblain vers 1810. Les immeubles anciens sont rasés, pour permettre la construction de la caisse d'épargne selon les plans de Rouvier et Harant. Parmi les autres projets soumis au concours mais non retenus par le jury, figurent ceux d'Alphonse Richardière et de Léon Majoux (auteur quelques années plus tard du bâtiment des archives, dans l'hôtel du département). L'édifice est toujours en fonction aujourd'hui et a conservé pour l'essentiel sa façade (malgré la modification des baies du rez-de-chaussée et la perte de certains éléments du décor). L'intérieur, lui, a été entièrement réaménagé.