Geboren 1963 in Wien. Seinem Berufswunsch konnte eine nicht geglückte Aufnahmeprüfung am Max-Reinhardt-Seminar nichts anhaben. Markovics spielte ab 1982 beim Serapionstheater, 1987 wechselte er zum Wiener Ensemble. Vier Jahre später übernahm er in „Hund und Katz" von Michael Sturminger seine erste kleine Kinorolle, viele weitere - etwa in „Indien", „Hinterholz 8", „Wanted" oder „Komm, süßer Tod" - sollten folgen. Markovics spielte außerdem am Theater in der Josefstadt und am Wiener Volkstheater, wo er im Jahr 2005 mit Eugene Ionescos „Die kahle Sängerin" erstmals ein Stück inszenierte. Zudem arbeitete er mehrmals mit der Regisseurin Elisabeth Scharang an Dramatisierungen zeitgeschichtlicher Stoffe - u.a. verkörperte er den Briefbombenattentäter Franz Fuchs (Franz Fuchs. Ein Patriot) und wurde dafür 2008 für einen Emmy nominiert. Im gleichen Jahr erhielt Stefan Ruzowitzkys den Auslands-Oscar für Die Fälscher mit Karl Markovics in der Hauptrolle.
Mit seinem Regiedebüt Atmen feierte er 2011 in Cannes Premiere und erhielt zahlreiche Auszeichnungen (darunter Hauptpreise in Zürich und Sarajevo). Markovics lebt und arbeitet hauptsächlich in Wien.