Masjid ini berdiri di era Pajang tahun 1546 M. Dulunya studio Ki Betuk, seorang Hindu Jawa yang kemudian beralih menjadi penganut Islam. Arsitektur masjid ini sangat kental akan unsur tradisional Jawa, Eropa (Indisch), Cina, dan Islam. Di dekatnya terdapat makam raja-raja dan kerabat Kasunanan, antara lain makam Ki Ageng Henis yang merupakan cikal bakal raja Mataram.