Museum ini berawal dari didirikannya "Laboratorium voor Agrogeologie en Grond Onderzoek" sebagai bagian dari Lands Plantentuin (Kebun Raya Bogor) oleh pemerintah Belanda pada tahun 1905. Lalu kemudian menjadi menjadi Bodemkundig Instituut Tahun 1942, pada masa penjajahan Jepang, berubah nama menjadi Dozyoobu dan saat  negara Republik Indonesia baru saja diproklamirkan, nama Bodemkundig Instituut kembali digunakan.

Pada tahun 1950 nomenklaturnya menjadi Balai Penyelidikan Tanah, dan tahun 1961 menjadi Lembaga Penyelidikan Tanah. Setahun kemudian (1962), namanya berubah lagi menjadi Lembaga Penyelidikan Tanah dan Pemupukan.  Kemudian menjadi Lembaga Penelitian Tanah pada tahun 1976, dan menjadi Pusat Penelitian Tanah pada tahun 1981. Pada tahun 1990 mandat penelitian diperluas ke bidang Agroklimatologi. Konsekuensinya, nama institusi ini  dirubah menjadi Pusat Penelitian Tanah dan Agroklimat (Puslittanak).

Setelah Otonomi Daerah, yakni pada tahun 2001 nama ini berubah lagi menjadi Pusat Penelitian dan Pengembangan Tanah dan Agroklimat (Puslitbangtanak). Pada tahun 2002 Puslitbangtanak mempunyai tiga balai penelitian. Salah satunya adalah Balai Penelitian Tanah (Balittanah). Balai Penelitian Tanah (Balittanah) bertugas melakukan penelitian untuk menghasilkan teknologi dan informasi sumber daya dan pengelolaan tanah serta memberikan pelayanan dalam bidang analisis tanah, air, tanaman, dan pupuk, pemetaan, analisis data penginderaan jauh (inderaja), pelayanan basis data tabular dan spasial (menggunakan GIS), serta berbagai pelayanan lain yang berhubungan dengan informasi dan teknologi pengelolaan tanah.

Sejak tanggal 29 September 1988, Balai Penelitian Tanah meresmikan pendirian Museum Tanah yang bekerjasama dengan International Soil Reference and Information Centre (ISRIC) Wageningen Belanda. Museum Tanah merupakan tempat menyimpan model/ contoh tanah sebagai koleksi berbagai macam tanah di Indonesia dengan maksud sebagai sumber informasi dalam hal sumber daya tanah bagi mendukung pembangunan pertanian. 

Koleksi Museum Tanah Koleksi museum terdiri atas macam-macam tanah yang disajikan dalam ukuran kecil berupa makromonolit, macam-macam batuan, contoh-contoh pupuk, perangkat uji tanah, peta-peta, maket, alat survei tanah. Koleksi museum Tanah dibagi dalam 6 bagian, yakni:
- monolit
- batuan
- peralatan survey
- teknologi pengolahan tanah
- peta-peta
-informasi lain  

Tahun 2014 ini, Museum Tanah ini akan dilakukan perombakan mulai dari bangunan dan koleksi-koleksinya. Rencana perombakan ini untuk mengembalikan Museum Tanah ini sebagai salah satu pusat pembelajaran bagi masyarakat tentang berbagai jenis tanah dan batu-batuan yang ada di Indonesia. (Angga W/gedoor)