Masjid yang terletak di persimpangan Jalan Kota dan Jalan Taming Sari ini dibina khusus untuk komuniti masyarakat India-Muslim yang telah berhijrah ke Daerah Larut sabagai pedagang.
Masjid ini pada asalnya adalah sebuah madrasah pada tahun 1910 yang berstrukturkan kayu (dargah) dan masjid ini dibina sebagai memperingati seorang wali dan dinamakan Masjid India Mohamed Hanafi.
Masjid ini terletak di laluan utama Bandar Taiping, di persimpangan lampu isyarat Jalan Kota yang sibuk. Ia juga masjd yang dibina agak dekat dengan Masjid Lama, Taiping dengan jarak kira-kira 400 meter sahaja.
Untuk makluman pembaca orangperak.com, tapak masjid ini diperolehi menerusi perjanjian bertulis pada 7 Julai 1908 di antara E.L. Brockman, Pemangku Residen British mewakili Kerajaan negeri Perak dengan pemegang amanah masjid berkenaan, setelah mendapat perkenan DYMM Sultan Perak pada waktu itu.
Batu asas untuk struktur masjid ini yang lebih moden ini telah diletakkan oleh Menteri Besar Perak yang ke-4 iaitu Y.A.B. Dato Hj. Ahmad Said pada tahun 1969 dan nama masjid ini diubah kepada Masjid India.
Perasmian masjid ini pula telah disempurnakan oleh Sultan Perak ke-33 DYMM Sultan Idris Al-Mutawakkil Alallahi Shah pada 1 Julai 1973.
Kepada pembaca Orangperak.com yang berkunjung ke Taiping, jangan lupa singgah ke masjid ini yang juga merupakan salah satu lokasi menarik di dalam Jejak Warisan Taiping. Moh kite..!