2 Kasım 971 tarihinde Buhara’da doğmuştur. Gazneliler devleti'nin fiili kurucusu olan Sebük Tegin’in oğullarından birisidir. Çocukluğundan itibaren kendisine iyi bir eğitim verildi. Aynı zamanda devlet içerisinde bazı görevler üstlendi.
Babasının yaptığı bazı savaşlarda, gazne'de babası adına vekillik yaptı. Samani emiri İi. Nuh'a ettiği yardımlar neticesinde, kendisine Horasan ordusu kumandanlığı verilmiştir.
Babası 997 yılında öldüğü zaman Mahmut Horasan ordusu kumandanıydı. Ancak babası, diğer oğullarından olan İsmâil’in tahta geçmesini vasiyet etmişti. Vasiyet üzerine ismail tahta geçti. ancak mahmud. Bu sırada Nîşâbur’da bulunan Mahmut, İsmâil’in hükümdarlığını tanımadı ve 998 yılında kardeşini mağlup ederek resmen gazneli hükümdarı oldu.
32 yıllık hükümdarlığı süresince hindistan'a 17 kez sefer yapan gazneli mahmut, beraberinde muazzam ganimetlerle ülkesine döndü. Bu seferler sebebiyle, hindistan içerisinde islam dini hızla yayıldı. Ayrıca, bu seferlerin hemen hepsinde hindistan'da bulunan pek çok tapınak yağmalanmış ve yine burada bulunan putlar kırılmıştır. Bu kırık put parçaları hem gazne iline, hem de mekke ve medine'ye gönderilmiştir. Yine, hindistan havalisine yapılan pek çok sefere müslümanlar gönüllü olarak katılmıştır. Az evvel de belirttiğim gibi, hindistan seferlerinde ele geçirilen ganimet tüm islam aleminin iştahını kabartmıştır.
1030 yılında Sultan Mahmut öldüğü zaman Devleti batıda Azerbaycan topraklarından, doğuda Hindistan’ın Yukarı Ganj vadisine, kuzeyde Hârizm’den güneyde Hint Okyanusu sahillerine kadar uzanıyordu.