Tidak lama kemudian selepas terbinanya Hospital Taiping selaku hospital pertama di Perak, Hospital Batu Gajah pula dibina dalam tahun yang sama dengan pembukaan Hospital Taiping iaitu pada tahun 1880 oleh penjajah Tanah Melayu pada waktu itu iaitu orang-orang British.
Pada waktu kegemilangannya dahulu, Hospital Batu Gajah adalah merupakan sebuah hospital yang punyai taraf umpama Hospital Besar seperti hari ini dan ianya terbahagi kepada dua bahagian. Bahagian pertama adalah Hospital Eropah dan bahagian yang satu lagi adalah Hospital Asia atau Melayu.
Hospital Eropah terdiri daripada wad kelas 1 yang merawat pegawai kerajaan Inggeris dan Eropah, pengurus-pengurus Estet, Raja-Raja Melayu dan vip-vip. Untuk Hospital Asia pula, ia terdiri daripada wad kelas 2 dan 3 yang mana ianya dikhaskan untuk merawat orang melayu dan orang awam lain yang berketurunan asia serta pegawai-pegawai kerajaan.
Hospital Batu Gajah dibina di atas sebidang tanah seluas 55 ekar di atas Bukit Changkat. Ia dibina dengan menghadap lanskap hijau yang amat cantik dan menarik. Pada masa lalu, hospital ini diurus tadbirkan oleh pegawai perubatan, penyelia, jururawat yang semuanya berbangsa Inggeris.
Untuk makluman anda pembaca setia orangperak.com, terdapat satu fakta menarik berkenaan dengan Hospital Batu Gajah ini yang mungkin ramai orang tak tahu. Orang berbangsa Asia yang pertama berkhidmat dan ditugaskan di Hospital Batu Gajah adalah dari India dan Sri Lanka.
Pada pendudukan Jepun, tentera Jepun telah mengambil alih Hospital Batu Gajah dalam tahun 1940 hingga 1941. Mereka telah mengambil alih secara keseluruhan hospital-hospital di Tanah Melayu dan Hospital Batu Gajah untuk dijadikan sebagai tempat penyeksaan serta tahanan.
Hospital Taiping diperkenalkan dengan teknologi mesin imbasan sinaran x-ray pada 1897. Selepas 49 tahun berlalu, tibalah giliran Hospital Batu Gajah untuk menerima teknologi ini dan oleh itu, Jabatan X-Ray telah ditubuhkan pada tahun 1946 di Hospital Batu Gajah.
Oleh yang demikian, Hospital Batu Gajah telah membangun dan menjadi antara salah sebuah hospital yang terbaik di Perak. Selepas tahun 1946, penjajah Inggeris mengambil alih semula hospital ini dan kemudian pusat latihan untuk Jururawat telah ditubuhkan pada tahun 1956.
Pada zaman itu, sekumpulan Doktor yang dilatih di Kolej Perubatan King Edward VII, Singapura telah dihantar untuk bertugas di Hospital Batu Gajah. Pada tahun 1976, Hospital Batu Gajah telah hilang taraf sebagai Hospital Besar selepas Hospital Ipoh dinaikkan taraf ke Hospital Besar. Hari ini, Hospital Batu Gajah hanya digelar sebagai Hospital Daerah.
