Masjid Sultan Idris Shah II telah dirasmikan pada 15 September 1978 oleh Sultan ldris Iskandar Shah II (Sultan Perak ke 33) sempena sambutan ulangtahun hari keputeraan baginda yang ke 33. Masjid ini terletak di atas sebidang tanah seluas kira-kira 2.6 hektar di tengah-tengah bandaraya Ipoh.