Syekh Mahmud al-Khayyat adalah anak Syekh Muhammad al-Khayyat, seorang ulama Arab yang pernah menjadi guru besar di halaqah Masjidil Haram dan guru bagi sejumlah besar ulama Nusantara. Salah satu muridnya bernama Syekh Hasan Maksum. Namun, gelar yang lebih khusus disematkan kepadanya adalah ulama dan pakar ilmu Falak.

Syekh Muhammad Al-Khayyat adalah ulama yang pertama sekali menyampaikan khotbah di masjid raya Al-Mashun Medan. Ia juga pernah menjadi mufti di Kedah dan meninggal di Penang.

Syekh Mahmud al-Khayyat adalah seorang guru di Sungai Rampah bagi sekelompok masyarakat muslim Mandailing yang paham keagamaannya menyalahi mazhab Syafi’i sehingga informasi tentang mereka sampai kepada Sultan Makmun al-Rasyid.