Pada 2005, Gus Yaqut terjun ke arena politik praktis dan menjadi Anggota DPRD Kbupaten Rembang (2005). Di tahun yang sama, ia maju mencalonkan diri menjadi Wakil Bupati pada Pilkada 2005 dan terpilih menjadi Wakil Bupati Rembang (2005-2010).
Pada 2012 Gus Yaqut diberi tanggung jawab yang lebih besar untuk menduduki jabatan Wakil Ketua DPW PKB Jawa Tengah (2012-2017).
Baca Juga: Innalillahi, Menghilang dari Indonesian Idol, Penyanyi Rossa Ternyata Terserang Penyakit Ini
Gus Yaqut semakin aktif dalam kancah organisasi masyarakat dan politik dengan melebarkan sayap organisasinya. Pada 2015 ia diberi tanggung jawab memimpin organisasi sayap kepemudaan terbesar dan tertua di Indonesia yaitu GP Ansor sebagai Ketua Umum masa jabatan periode tahun 2015-2020.
Ia dilantik menjadi Anggota DPR RI Periode 2014-2019 sebagai Pergantian Antar Waktu (PAW) menggantikan Hanif Dhakiri yang saat itu direkrut Jokowwi sebagai Menteri Tenaga Kerja di Kabinet Kerja.
Pada Pemilu 2019, Gus Yaqut kembali lolos ke Senayan dan diberikan amanah sebagai Wakil Ketua Komisi II.
Baca Juga: Link Streaming ILC 'Presiden Marah: Menteri Mana Direshuffle? 30 Juni 2020'
Nama Gus Yaqut juga sempat menjadi pembicaraan pada tahun 2018 lalu. Hal itu tak lepas dari perseteruannya dengan FPI terkait dengan insiden pembakaran bendera tauhid di Garut.
Di sisi lain, Gus Yaqut mengklaim bendera yang dibakar oknum anggotanya merupakan bendera HTI. Sedangkan FPI menilai bendera itu adalah bendera tauhid.
Namun hasil penyelidikan polisi menyimpulkan bahwa bendera itu adalah bendera HTI, berdasarkan keterangan orang yang membawa bendera.