Christiania Militære Samfund ble stiftet i 1825, men de første 50 årene ble møtene holdt i ulike lokaler i byen. Tanken om å skaffe en egen bygning oppsto i 1863. Arkitekt Wilhelm von Hanno utarbeidet tegninger, og bygningen ble finansiert gjennom gaver og tegning av aksjer. Grunnsteinen ble nedlagt i 1876 og bygningen ble innviet 12. november 1878.
Oslo militære samfund er regnet som et av von Hannos hovedverk.
Ideen om å ha en egen Samfundsbygning oppsto i 1863. En nedsatt komité fremmet året etter en innstilling vedlagt en tegning laget av arkitekt Wilhelm von Hanno. Man skulle prøve å få fri tomt for bygningen og den burde ligge i nærheten av Akershus. Den 17. mars 1866 ble det vedtatt av Stortinget at Christiania Militaire Samfund skulle få den tomten bygningen nå står på, Myntgt 3. Det ble invitert til aksjetegning i huset. Man regnet med at bygningen ville komme på 15.000 spesidaler og den første del av aksjetegningen gikk lovende. Det ble tegnet 769 aksjer à 10 spesidaler.
Huset skulle, i tillegg til kravet til ordinære møter, også dekke behovet for arrangementer av festlige sammenkomster, således en sal på 250m² med plass til vel 100 personer til bords. Videre et par værelser i tilknytning til salen, billiardrom og bolig for vaktmester og restauratør. I tillegg kom en ungkarsleilighet for en husinspektør (intendant).