國立歷史博物館建於1955年12月4日。民國44年當時擔任教育部長的張其昀先生，有感於社會歷史教育的重要，在其任內推動建設「南海學園」，並首先成立「國立歷史文物美術館」，於是，戰後臺灣開辦的國家級博物館－國立歷史博物館因而誕生，由包遵彭先生出任首任館長。1957年10月10日國立歷史文物美術館正式更名為「國立歷史博物館」。

建館館址選定於植物園內的一棟日式木造建築，這棟建築在日治時期是作為當時總督府殖產局的商品陳列館。本館建館之後，自1958年開始進行館舍改建，增建陳列室及畫廊，1961年興建「國家畫廊」用以展出書畫作品，1962年增建傳統建築式展覽大廳，1971年原有木樓奉准改建成傳統建築樣式的展覽大樓，成為目前紅牆綠瓦的建築體。

作為戰後臺灣成立的國家級博物館，本館開館以來，歷任館長無不積極拓展館務，與時俱進，盡力發揮博物館功能。1961年興建國家畫廊，啟用後被視為國內最具代表的畫廊，當時許多藝術家皆曾於本館國家畫廊展出，可謂集一時藝壇風華。此外，長年積極策辦引進各類型國際性展覽，藉由展覽推動國際文化交流，70-80年代曾規劃一系列地方文物特展，將台灣各地地方博物館的特色典藏有計畫地在本館展出，民國90年起更首創行動博物館，以改裝大型貨櫃車為小型博物館，定時定點巡迴各偏遠地區作專題展覽與文化教育活動，目前已有兩台行動博物館巡迴於各鄉鎮展出。2012年5月20日本館改隸文化部，並新增文創行銷組，文創行銷組成立以來積極推展本館各項文創業務，同時提出博物館「公益文創」理念，延伸博物館資源的社會服務面向。

自開館以來，本館使命與任務不斷與時俱新，然為民服務精神始終不變，更於2013年榮獲第五屆政府服務品質獎優等的肯定，本館亦將持續不斷努力，提供民眾更優質的參觀經驗、更理想的休閒環境，致力打造一首都文化空間新亮點。