Sebelum memulai karier sebagai aktor, Yayan Ruhian memulai kariernya sebagai pesilat dan guru bela diri. Karena ahli bela diri silatnya yang tinggi, akhirnya Yayan bermain di film Merantau dan The Raid dimana kedua film tersebut Yayan disandingkan dengan Iko Uwais. Ia berperan sebagai antagonis bersama Donny Alamsyah.

Film ketiga Yayan akan kembali dengan berjudul The Raid 2: Berandal sebagai Prakoso, yang juga disandingkan dengan Iko Uwais. Film Berandal merupakan lanjutan dari film The Raid. Menurut Gareth Evans di film The Raid 2: Berandal, aksinya di film tersebut lebih brutal.

Film keempatnya adalah Star Wars Episode VII: The Force Awakens, dia akan memerankan sebagai Tasu Leech, pemimpin dari organisasi kriminal Kanjiklub Gang yang beroperasi sekitar tiga puluh tahun setelah Pertempuran Endor. Dia bermain bersama Iko Uwais sebagai Razoo Qin-Fee dan Cecep Arif Rahman sebagai Crokind Sand.