Tidak seperti puncak atap masjid lain yang berbentuk kubah yang merupakan ciri bangunan Timur Tengah, maka puncak Masjid Gedhe tidak disebut dengan kubah melainkan “Mustaka” yang berarti “kepala”.
Mustaka Masjid Gedhe berbentuk sebuah “gada” yang berdiri tegak.
Dalam terminologi jawa, gada adalah senjata pamungkas untuk mengalahkan musuh. Dalam cerita pewayangan semua ksatriya selalu bersenjatakan gada ketika senjatanya sudah tidak berguna atau rusak.
Gada yang berdiri tegak pada mustaka Masjid Gedhe merupakan simbolisasi kemahaesaan atau Tauhid yang merupakan landasan utama dalam ajaran Islam, sekaligus mengajarkan bahwa ketika senjata ataupun usaha kita sudah mentok dan tidak membuahkan hasil maka sudah saatnya kita harus Kembali pada Allah.
Disekitar Gada terdapat hiasan berbentuk “daun kluwih”. Kluwih merupakan simbol dari kata “linuwih” yang berarti mempunyai kelebihan yang tidak dimiliki orang lain. Dalam hal ini kata linuwih mengandung arti bahwa hanya Allah yang mempunyai kekuasaan untuk menolong manusia dari permasalahannya.
Selain daun kluwih juga terdapat hiasan “bunga” di sekitar gada, simbolisasi bahw orang yang telah mempunyai keimanan dan Tauhid yang tinggi maka namanya akan harum dan disukai banyak orang.
Pada puncak di bawah gada terdapat hiasan berupa daun “nanas” berasal dari kata annas yang bertarti manusia, sebagai simbolisasi bahwa orang yang linuwih adalah orang yang paling dekat dengan Allah sekaligus sebagai simbol bahwa orang yang linuwih adalah orang yang bisa menjaga hubungan antara manusia dengan Allah (hablumminallah) dan juga bisa menjaga hubungan manusia dengan manusia (Hablumminannas).