Prvi policijski muzej je bil odprt v Parizu leta 1909, sto let po Napoleonovi reformi, s katero so bili postavljeni temelji današnje policijske organizacije. Najstarejša policija, London Metropolitan Police, ustanovljena 1829. leta, ima muzej, ki je v zasebni lasti. V Varšavi je bil policijski odprt muzej že leta 1927. Policijski muzeji so tudi na Dunaju, v Budimpešti, Pragi, Bratislavi, Glasgowu, Rimu, Skopju, Zagrebu in drugje.
Prvi policijski muzeji so bili ustanovljeni zato, da se ohrani zgodovina policijskih dejavnosti, predvsem pa so bili namenjeni kriminalistiki – so prikaz žrtev kaznivih dejanj, njihovih storilcev in predmetov, s katerimi so bila kazniva dejanja storjena. Muzeji so bili kot kabinet za nadgradnjo empiričnih znanj vsem tistim, ki so se neposredno ukvarjali z odkrivanjem, preiskovanjem in dokazovanjem kaznivih dejanj.
Za slovenski kriminalistični muzej viri omenjajo zbiranje gradiva že leta 1920. Namenjen je bil izobraževanju policistov in orožnikov za zatiranje kriminala. Prostore je imel v takratni šempetrski vojašnici.
Med drugo svetovno vojno je bil preseljen v nekdanjo prisilno delavnico na Poljanskem nasipu, kjer se je velik del gradiva izgubil. Kar ga je ostalo, so ga po vojni prenesli v Šolo narodne milice v Šiško. Zbirali so dodatno gradivo, tako da je bil novi muzej 30. septembra 1947 odprt za strokovno javnost in pripadnike ONZ. Organizacijsko je v letih 1946 in 1947 spadal v Oddelek za pobijanje kriminalitete. Ko se je ta leta 1948 preimenoval v Oddelek za kriminalistično službo, je muzej že imel “enega uslužbenca”, Svetozarja Šubarevića, ki je imel vrsto let izredno pomembno vlogo pri razvoju muzeja. Bil je entuziast, ki je po drugi svetovni vojni "oral ledino" na tem področju, zbiral in urejal je predmete, ki so bili sredstva za storitev kaznivih dejanj ali so izhajali iz njih.
Čez štiri leta so muzej preselili v šolo v grad na Igu pri Ljubljani, kjer je ostal do avgusta 1953, ko so ga preselili v Dom ljudske milice na Kotnikovi 8 v Ljubljani.
Leta 1970 so ga prenesli v Tacen, kjer je bila v letu 1967 ustanovljena Srednja strokovna šola. Da bi lahko služil svojemu namenu, to je vzgojno-izobraževalnim potrebam za šolski center Republiškega sekretariata za notranje zadeve (RSNZ), študente pravne in medicinske fakultete, penologe, vojaške policiste in druge, ga je bilo treba sodobno in kakovostno urediti. V ta namen je bila ustanovljena posebna komisija, ki je za pripravo gradiva o kaznivih dejanjih oblikovala enoten sistem. Prikazujejo naj se tista, katerih storilci so znani in pravnomočno obsojeni. Poudarek je na motivu in načinu storitve kaznivega dejanja in načinu odkritja storilca, obenem pa dobimo odgovore na vseh sedem "zlatih" vprašanj kriminalistike. V novih prostorih je bil Kriminalistični muzej odprt 13. maja 1973.
Leta 1976 je bil ustanovljen svet muzeja in njegova dejavnost se je razširila. Pojavila se je težnja Službe državne varnosti (SDV) po zbiranju in odpiranju zbirk (razstav) o razvoju služb v ONZ od leta 1941. Ustanovljen je bil Oddelek o zaščiti narodnoosvobodilnega gibanja, muzej pa se je preimenoval v Muzej ONZ. Nato se je leta 1982 preimenoval v Muzej RSNZ. Takrat so ga sestavljali: Kriminalistični oddelek, Oddelek o razvoju varnostnega sistema in Oddelek o zaščiti narodnoosvobodilnega gibanja.
Družbenopolitične spremembe po osamosvojitvi Slovenije, odpiranje v Evropo, politični pluralizem ter vrsta drugih sprememb je vplivala tudi na delo Muzeja MNZ in na nadaljnje zbiranje muzejskega gradiva. Hkrati je interes za obisk muzejskih prostorov skokovito naraščal. Muzejsko gradivo o izvajanju kazenskih sankcij skozi stoletja je bilo dopolnjeno s prikazom današnjega kaznovanja na območju Slovenije, tako da penološka zbirka prikazuje vse zavode za prevzgojo obsojencev. Danes je žal zaradi prostorske stiske arhivirana.
Strokovna vrzel je bila dopolnjena tudi s predstavitvijo dela vseh laboratorijev Centra za kriminalističnotehnične preiskave, ki se danes imenuje Center za forenzične preiskave. V zbirki mladinske delinkvence je bila nazorno predstavljena tudi prevzgoja mladoletnikov od 16. stoletja naprej, s poudarkom na prevzgoji na slovenskih tleh od leta 1945 naprej. Žal sta tudi ti dve danes zaradi pomanjkanja prostora v arhivu. Tudi politična kriminaliteta je imela prostor v muzeju do leta 1989, ko so bila tovrstna dejanja preimenovana v kazniva dejanja, povezana z varnostjo države in njene ustavne ureditve, nato pa je bila arhivirana.
Po osamosvojitvi Slovenije so bile arhivirane tudi nekatere tematske razstave, povezane z slovensko zgodovino in z zgodovino ONZ. Zaradi nasprotujočih si pogledov na posamezne dele slovenske zgodovine in zaradi spreminjajoče se njegove vloge so začrtani muzejski programi začeli usihati. Arhivirano gradivo se ni več dopolnjevalo, niti se niso pripravljale nove tematske razstave, 22. julija 2001 je bilo gradivo v celoti "začasno" arhivirano.
14. decembra 2006 pa je bil Muzej slovenske policije ponovno odprt v pritličju Policijske akademije v Tacnu, sicer v manjšem merilu, vendar z izhodiščem, da se naprej razvija z vsem svojim poslanstvom.
Muzej je od leta 1971 do leta 2011 vodila in sooblikovala muzejska svetovalka mag. Biserka Debeljak, ki je ob 85-letnici muzeja pripravila tudi obsežno knjigo z naslovom Muzej organov za notranje zadeve (katalog in zapiski o zgodovini muzeja, o muzejskih predmetih in ljudeh, ki so ga ustvarjali).