Ali Bey, fikir ayrılıkları dolu olan bu birinci mecliste, 1. gurupta yer aldı. 2. Mecliste Atatürk'ten yana olanların büyük çoğunluk sağlamalarında Ali Bey'in büyük payı oldu. 2. Mecliste Cumhuriyet Halk Partisi Programı ile Anayasa taslağının hazırlanmasında Kazım Karabekir, Ziya Gökalp, İsmail Canbolat, Yusuf Akçura, Ahmet Ağaoğlu ve Celal Bayar ile birlikte görev aldı. Uzun yıllar Halk Partisinin Gurup Başkanlığı görevini sürdürdü... Doğudaki kürt isyanlardan sonra kurulan Ankara İstiklal Mahkemesi Başkanlığına getirildi.
16 Şubat 1934 Tarihinde Bayındırlık Bakanlığına seçildi. Ulaştırma İşlerinin Bayındırlıktan ayrılması üzerine oluşturulan Ulaştırma Bakanlığının, 3 Nisan 1939 Tarihinde İlk Bakanı oldu. Her iki Bakanlıkta da büyük işler başardı. Bir çok yabancı kuruluşun millileştirilmesini sağladı.
Memleketin demir ağlarla örülmesinde onun payı büyük oldu. Soyadı Kanunu çıkınca Atatürk ona ‘ÇETİNKAYA' soyadını verdi. Zira Ayvalıkta düşman karşısında, gerçekten Çetin bir kaya olmuştu. Sonraları, adıyla, soyadıyla Ali Bey, yurdun çeşitli yerlerinde yaşatıldı.
Ali Bey zaman zaman halkevi tarafından Afyonkarahisarda yayımlanan Taşpınar dergisine mukaleler yazdı. O arada Hans kohn tarafından yazılan ‘Türk Milliyetçiliği' adlı eseri Türkçe'ye çevirerek kitap bütünlüğünde yayımlanmasını sağladı. Aralıksız 1946 yılına kadar Afyonkarahisar Milletvekilliği yapan Ali Çetinkaya, çok partili sisteme geçilip, Demokrat Partinin seçimleri kazanması üzerine o yıl seçilemedi ve Milletvekilliği sona erdi. 21 Şubat 1949 Tarihinde İstanbul'da vefat etti. Aziz naşı Afyonkarahisar'a getirildi ve Afyonkarahisar Belediyesi tarafından Asri Mezarlık içersinde inşaa edilen Anıt Mezar'a defnedildi. Her yıl, Afyonkarahisar Valiliği tarafından düzenenlenen törenle, ölüm yıldönümlerinde anılmaktadır.