Şam'da yer alan 5. Ordu'daki görevi, Mustafa Kemal'e İmparatorluk sınırları içindeki aksaklıkları, hem devlet yönetimindeki hem de ordudaki hata ve eksiklikleri daha yakından görmesini sağladı. Bu zor durumdan kurtuluş ve çıkış yolları aramaya başladı. 1906 yılının Ekim Ayı'nda bazı arkadaşlarıyla gizli olarak Vatan ve Hürriyet Cemiyeti'ni kurdu; cemiyetin Beyrut, Yafa ve Kudüs'te örgütlenmesini gerçekleştirdi. Daha sonra Selanik'e giderek, burada Vatan ve Hürriyet Cemiyeti'nin bir şubesini açtı ve tekrar Şam'a döndü.

Mustafa Kemal 20 Haziran 1907 tarihinde Kolağası, yani günümüzdeki adıyla kıdemli yüzbaşı oldu. 13 Ekim'de ise merkezi Manastır'da bulunan 3. Ordu Karargahı'na atandı ve bu ordunun Selanik'teki bölümünde göreve başladı. Ayrıca 22 Haziran 1908'de, 3. Ordu Karargahı'ndaki görevine ek olarak Üsküp-Selanik demiryolu müfettişliği de kendisine verildi.

Mustafa Kemal o günlerde Rumeli'de önemli bir faaliyet gösteren İttihat ve Terakki Cemiyeti'ne katıldı. Bu cemiyetin o sıradaki başlıca hedefleri, 1876 Anayasası'nın tekrar yürürlüğe konmasını ve kapalı durumdaki Meclis-i Mebusan'ın yeniden toplanmasını sağlamaktı.

Nitekim Sultan Abdülhamit'in onayıyla 23 Temmuz 1908 tarihinde ilan edilen II. Meşrutiyet'te İttihat ve Terakki büyük bir rol oynadı.

Kişiliğinde tamamen özgürlükçü bir yapıya sahip olan Mustafa Kemal, Meşrutiyet'in ilanını olumlu, ancak yetersiz bir gelişme olarak değerlendiriyordu. Hürriyetin tam anlamıyla gelmesiyle ülkenin daha hızlı ilerleyeceği ve kalkınacağını savunuyor, yönetimin gerçek sahiplerine, yani millete verilmesini istiyordu. İşte bu noktada onun, İttihat ve Terakki Cemiyeti ile önemli bir fikir ayrılığı ortaya çıktı. Çünkü İttihat ve Terakki Cemiyeti II. Meşrutiyet'in ilanını yeterli buluyor, Mustafa Kemal'in inkılapçı düşüncelerini kabul etmek istemiyordu. Bu şartlarda bile O, cemiyete gerekli uyarıları yapmaktan çekinmedi.

13 Nisan 1909 tarihinde İstanbul'da, 31 Mart Vakası olarak bilinen büyük bir ayaklanma patlak verdi. Mustafa Kemal, işte bu olumsuz gelişme üzerine Rumeli'de kurulan Hareket Ordusu'nun Kurmay Başkanlığına getirildi ve bu orduyla birlikte 19 Nisan 1909'da İstanbul'a geldi. Hareket Ordusu'nun İstanbul'a gelişinin ardından yapılan açıklamayı kaleme aldı ve söz konusu isyanın bastırılmasında etkili oldu. Ordunun kontrolü tamamen ele geçirmesinden sonra Sultan Abdülhamit tahttan indirildi ve yerine Sultan Reşat geçirildi. Mustafa Kemal, 16 Mayıs 1909'da tekrar Selanik'teki görevinin başına geri döndü.

Mustafa Kemal'in Selanik'e dönüşü İttihat Terakki Cemiyeti ile olan görüş ayrılığını daha da ön plana çıkarır. 22 Eylül 1909'da İttihat Terakki Kongresi'nde ordunun siyasete karışması ve bunun doğuracağı muhtemel olumsuz sonuçlar üzerine bir konuşma yapar. İttihat ve Terakki Cemiyeti'nin izlediği siyasetin yanlış olduğuna ve ülke yararına olmadığına kanaat getirir. Tüm vaktini ordudaki görevine ayırır.

Mustafa Kemal Selanik'teki görevini sürdürdüğü dönemde, Eylül 1910'da gözlemci sıfatıyla Fransa'daki Pikardi Manevraları'na gönderildi. Daha önce önemini fark ederek aldığı Fransızca eğitimi kendisine büyük kolaylık sağlamıştı. 1911'in Mart ayında ise, Arnavutluk'ta çıkan isyanı bastırmak üzere oluşturulan Harbiye Nazırı Mahmut Şevket Paşa'nın komutasındaki birlikte yer aldı.

3. Ordu Karargahı'nın ardından sırasıyla 5. Kolordu Karargahı ve 38. Piyade Alayı'nda görev aldı. Aslında bu görevler ile bazı çevreler Onu yıpratmak, şevk ve heyecanını kırmak istiyorlardı.

Kızılay Heyeti ile birlikte (Derne, 1912)

Diğer bir deyişle, hedeflenen, Mustafa Kemal'in yükselmesini engellemekti. Fakat O, bütün görevlerinde olduğu gibi, burada da başarılı oldu; çalışma arkadaşlarının ve kumandanlarının takdirlerini topladı.

Vatan sathında yapmış olduğu görevler Mustafa Kemal'in yenilikçi ve inkılapçı düşüncelerini olgunlaştırmış ve etrafında birçok genç subayın toplanmasını sağlamıştı. Fakat bu yeni yapılanma Osmanlı Devleti'nin kimi kesimleri tarafından tehlikeli görülüyordu.

Nitekim onun, 27 Eylül 1911 tarihinde İstanbul'da bulunan Genelkurmay Başkanlığına tayin edilmesi, bu çarpık bakış açısının bir sonucu oldu. 1908 Meşrutiyeti'nden sonra bazı Osmanlı birliklerinin buradan ayrılması ve askeri gücün zayıflamasını fırsat bilen İtalyanlar, 1911'in son aylarında Trablusgarp'a saldırdılar. Mustafa Kemal bu gelişmenin ardından Tobruk ve Derne Bölgeleri'nde gönüllü mahalli kuvvetlerin başına, sonra Derne Komutanlığına atandı. 27 Kasım 1911 tarihinde Binbaşılığa terfi etmesi de söz konusu dönem içinde gerçekleşti.

Mustafa Kemal'in önderliğindeki Türk birliklerinin ve yerli halkın kahramanca karşı koyması nedeniyle İtalyanlar ancak kıyıda tutunabilmişlerdi. Fakat bu sırada Balkanlar'da başlayan karışıklık nedeniyle buradaki mücadele sona erdi ve 15 Ekim 1912 tarihinde Uşi Barışı imzalandı. Bunun sonucunda Osmanlı Devleti Afrika'daki son topraklarını da kaybetmiş oldu.

Bedevi Kuvvetleri ile birlikte (Derne, 1912)

1912 yılının Ekim ayında Balkan Harbi'nin başlaması üzerine Mustafa Kemal, 24 Ekim 1912'de Trablusgarp'tan ayrılarak İstanbul'a geldi. 21 Kasım 1912'de Gelibolu'da bulunan Bahr-i Sefid (Akdeniz) Boğazı Kuvay-ı Mürettebesi Komutanlığı Harekât Şubesi Müdürlüğüne atandı. Bu sırada Selanik düşmüş, Bulgar Ordusu Babaeski-Lüleburgaz Savaşı'nı kazanarak Çatalca'ya kadar gelmişti.

Osmanlı adeta Avrupa'dan itilip Asya'ya sürülmek isteniyordu. İttihatçıların yönetimindeki Osmanlı Hükümeti, 30 Mayıs 1913'de Midye-Enez hattını kabul etmek zorunda kalmıştı. Osmanlı mirasını paylaşmada anlaşamayan Balkanlılar Bulgaristan'a karşı savaşa tutuşmuşlardı.

Bu sırada Türk Ordusu hemen harekete geçti. Mustafa Kemal ise Bolayır Kolordusu Kurmay Başkanlığına getirildi; Dimetoka ve Edirne'nin düşmandan geri alınmasında oldukça emeği geçti.

Askeri Ateşe iken yapılan kostümlü baloda (Sofya, 1914)

Balkan Harbi'nin neticelenmesinden sonra 27 Ekim 1913 tarihinde Sofya Ataşemiliterliğine atandı; aynı zamanda Belgrad ve Çetine Askeri Ataşeliği görevini de üstlendi. 1915 yılının Ocak ayına kadar süren bu görevi sırasında yarbaylığa terfi etti.