Museum yang menempati area seluas 10.039 m2 ini pada awalnya adalah gedung Nederlandsche Handel-Maatschappij (NHM) atau Factorji Batavia yang merupakan perusahaan dagang milik Belanda yang kemudian berkembang menjadi perusahaan di bidang perbankan.

Nederlandsche Handel-Maatschappij (NHM) dinasionalisasi pada tahun 1960 menjadi salah satu gedung kantor Bank Koperasi Tani & Nelayan (BKTN) Urusan Ekspor Impor. Kemudian bersamaan dengan lahirnya Bank Ekspor Impor Indonesia (BankExim) pada 31 Desember1968, gedung tersebut pun beralih menjadi kantor pusat Bank Export import (Bank Exim), hingga akhirnya legal merger Bank Exim bersama Bank Dagang Negara (BDN), Bank Bumi Daya (BBD) dan Bank Pembangunan Indonesia (Bapindo) ke dalam Bank Mandiri (1999), maka gedung tersebut pun menjadi asset Bank Mandiri.

Koleksi museum terdiri dari berbagai macam koleksi yang terkait dengan aktivitas perbankan "tempo doeloe" dan perkembangannya, koleksi yang dimiliki mulai dari perlengkapan operasional bank, surat berharga, mata uang kuno (numismatik), brandkast, dan lain-lain.

Koleksi perlengkapan operasional bank "tempo doeloe" yang unik, antara lain adalah peti uang, mesin hitung uang mekanik, kalkulator, mesin pembukuan, mesin cetak, alat pres bendel, seal press, safe deposit box maupun aneka surat berharga seperti bilyet deposito, sertikat deposito, cek, obligasi, dan saham. Di samping itu, ornamen bangunan, interior dan furniture musuem ini masih asli seperti ketika didirikan.