Zonguldak’ta bir yandan mesleğini icra ederken, öte yandan mensubu olduğu Adalet Partisi teşkilat kademelerinde görev alarak il başkanvekilliği ve belediye meclis üyeliği yaptı. Ayrıca Zonguldak’ta maden fakültesi kurulması ve ihtiyaçlarının karşılanması için çalışacak bir dernek başta olmak üzere pek çok sivil toplum kuruluşunun başkan, kuruculuk ve yöneticilik yaptı.

İlk kez TBMM’ye seçildiği 1977 genel seçimlerinde Zonguldak’tan AP milletvekili oldu ve TBMM Adalet ve KİT Komisyonu üyelikleri yaptı. Daha sonra yapılan büyük kongre sonucu partinin Merkez Haysiyet Divan Başkanlığına getirildi.

12 Kasım 1979’da kurulan Süleyman Demirel başkanlığındaki AP azınlık hükûmetinde Devlet Bakanlığı’na atandı ve Türkiye’nin en genç bakanlarından biri oldu. Bu görev 12 Eylül 1980 askeri müdahalesine kadar sürdü. Ankara’da serbest avukatlığa başladı; uzun süre hakkında açılan pek çok davada Süleyman Demirel’in avukatlığını üstlendi ve bu davaların tamamı beraatle sonuçlandı. 28 Eylül 1986 tarihinde yapılan ara seçimlerde Doğru Yol Partisi’nden (DYP) Zonguldak 2. Bölge milletvekili seçildi.

Eylül 1987’de yapılan DYP Büyük Kongresi’nin Divan Başkanlığını yaptı. 29 Kasım 1987 tarihinde yapılan genel seçimlerde yeniden Zonguldak Milletvekili seçildi ve DYP TBMM Grup Başkanvekilliği yaptı. Kasım 1990’da yapılan kongrede DYP Genel İdare Kurulu Üyeliği’ne seçildi. 1991 genel seçimlerinde Doğru Yol Partisi’nden Bartın Milletvekili seçildi ve seçimlerden sonra kurulan DYP-SHP Hükûmeti’nde Milli Eğitim Bakanlığı’na getirildi.

Turgut Özal’ın beklenmeyen ölümü ve onun yerine Süleyman Demirel’in Cumhurbaşkanı olmasıyla DYP Genel Başkanlığı makamı boşaldı. Yeni genel başkanı ve aynı zamanda başbakanı belirlemek üzere 13 Haziran 1993’te Ankara’da düzenlenen kongrede Tansu Çiller ve İsmet Sezgin ile birlikte adaylığını koyan üç kişiden biri oldu. İlk tur oylamada 1.169 delegeden 212’sinin oyunu alarak üçüncü ve sonuncu oldu. İkinci tur oylamaya geçilmeden önce ilk turda ikinci sırayı alan Sezgin ile birlikte adaylıktan çekildi. Kasım 1993’te yapılan DYP Kongresi’nde en yüksek oyu alarak Genel İdare Kurulu Üyesi seçildi. 1995 yılında bir süre Kültür Bakanlığı yaptı. 24 Aralık 1995 genel seçimlerinde yeniden Bartın Milletvekili seçildi. 1999 genel seçimlerinde yine Doğru Yol Partisi’nden Bartın milletvekili adayı oldu, ancak seçilemedi. 20 Kasım 1999 tarihinde düzenlenen DYP 6. Büyük Kongresi’nde Tansu Çiller’e karşı aday oldu ancak seçilemedi.

Ağustos 2002’de üyesi olduğu Adalet ve Kalkınma Partisi’nden 3 Kasım 2002 genel seçimlerinde Zonguldak Milletvekili seçildi ve TBMM Adalet Komisyonu Başkanı oldu. 22 Temmuz 2007 seçimlerinde yeniden AK Parti’den Zonguldak Milletvekili seçildi. 9 Ağustos 2007’de TBMM Başkanlığı için yapılan ilk tur seçimlerinde 450 gibi rekor bir oyla TBMM Başkanı seçildi. Ağustos 2009’da yapılan TBMM Başkanlığı seçiminde adaylığını koymadı. 2011 genel seçimlerinde Zonguldak Milletvekili olarak tekrar TBMM’ye seçildi.

20 Haziran 2017 tarihinde Resmî Gazete’de yayımlanan Bakanlar Kurulu kararnamesi ile Kamu Görevlileri Etik Kurulu Başkanı olarak atanmıştır.

Hâlen Cumhurbaşkanlığı Yüksek İstişare Kurulu üyesidir.

Metnin imla kurallarına göre düzeltilmiş ve okunaklı hale getirilmiş hâlidir.