Ve věku 39 let se Joe Clark stal nejmladším premiérem Kanady v roce 1979. Fiskální konzervativce, Joe Clark, a jeho menšinová vláda byli poraženi po pouhých devíti měsících u moci v případě nedůvěry ohledně rozpočtu na zvýšení daní a snížení programů.
Poté, co prohrál volby 1980, Joe Clark zůstal na pozici vůdce opozice. Když v roce 1983 převzal Brian Mulroney vůdce Progresivní konzervativní strany Kanady a poté předseda vlády Ministr v roce 1984 Joe Clark pokračoval jako účinný ministr vnějších vztahů a ministr pro ústavní záležitosti Věci. Joe Clark opustil politiku v roce 1993, aby pracoval jako mezinárodní obchodní konzultant, ale v letech 1998 až 2003 se vrátil jako vůdce progresivní konzervativní strany.
Joe Clark začal svou politickou kariéru jako ředitel organizace pro progresivní konzervativní stranu Alberty v letech 1966 až 1967. V roce 1967 byl zvláštním asistentem konzervativního člena parlamentu Davie Fultona. Od roku 1967 do roku 1970 působil jako výkonný asistent konzervativního člena parlamentu Roberta Stanfielda.
Joe Clark byl poprvé zvolen do Dolní sněmovny v roce 1972. V roce 1976 byl zvolen jako vůdce progresivní konzervativní strany Kanady a do roku 1979 byl vůdcem opozice. Po všeobecných volbách v roce 1979 byl Joe Clark přísahou místopředsedy vlády Kanady.
Konzervativní vláda byla poražena v roce 1980. Joe Clark byl opět vůdcem opozice v letech 1890 až 1983. Joe Clark svolal progresivní kongresovou konzervativní stranu a v roce 1983 ztratil vedení strany pro Briana Mulroneyho.
Ve vládě Mulroney působil Joe Clark v letech 1984 až 1991 jako ministr zahraničních věcí. Od roku 1991 do roku 1993 byl předsedou rady záchodů a ministrem odpovědným za ústavní záležitosti. Joe Clark neběžel ve všeobecných volbách v roce 1993.
Joe Clark se vrátil jako vůdce progresivní konzervativní strany Kanady v roce 1998. V roce 2000 byl znovu zvolen do Dolní sněmovny. V roce 2002 Joe Clark řekl, že nesl progresivní konzervativní stranu, jak jen to šlo. Rezignace Joe Clarka jako vůdce progresivní konzervativní strany byla účinná na konferenci o vedení v květnu 2003.