Menurut catatan sejarah menjelang dan awal kemerdekaan, pembentukan Kementerian Agama tidak sekali jadi, alias melalui proses tersendiri.

Usulan perlu diadakan Kementerian yang berhubungan dengan agama pertama kali disampaikan dalam sidang Badan Penyelidik Usaha-Usaha Persiapan Kemerdekaan Indonesia (BPUPKI) tanggal 11 Juli 1945 oleh Muhammad Yamin. Saat itu beliau menyebutnya Kementerian Islamiyah.

Pada waktu Panitia Persiapan Kemerdekaan Indonesia (PPKI) melangsungkan sidang hari Minggu, 19 Agustus 1945 untuk membicarakan pembentukan kementerian/ departemen, usulan didirikannya Kementerian Agama disetujui oleh enam dari 27 Anggota PPKI.

Pada saat itu Yohannes Latuharhary, wakil dari wilayah kepulauan Maluku, mengusulkan agar masalah-masalah agama diurus Kementerian Pendidikan. Abdul Abbas, seorang wakil dari Lampung, mendukung usul agar urusan agama ditangani Kementerian Pendidikan. Iwa Kusumasumantri, seorang nasionalis dari Jawa Barat, setuju gagasan perlunya Kementerian Agama tetapi karena pemerintah itu sifatnya nasional, agama seharusnya tidak diurus kementerian khusus.

Ki Hadjar Dewantara, tokoh pendidikan Taman Siswa, lebih suka urusan-urusan agama menjadi tugas Kementerian Dalam Negeri. Dengan penolakan beberapa tokoh penting ini, usul pembentukan Kementerian Agama akhirnya ditolak.