Bereits im Spätmittelalter kontrollierten Gegenschreiber die öffentlichen Ausgaben in Kärnten. In der Habsburgermonarchie übernahm die Hofrechenkammer diese Aufgabe. 1929 wurde dafür ein Kontrollamt gegründet und 1997 schließlich der Kärntner Landesrechnungshof.

Das Kontrollamt wurde bereits zwei Jahre nach der Gründung wieder abgeschafft und erst in der Zweiten Republik 1956 wieder ins Leben gerufen. Die Kärntner Landesverfassung von 1974 sah die Einrichtung eines Kontrollausschusses vor, um die Berichte des Kontrollamts zu behandeln. 1977 wurde ein Gesetz über das Kontrollamt beschlossen, das die externe Finanzkontrolle des Landes regelte.

Reformbestrebungen in den 90er Jahren führten zu einer Novellierung der Landesverfassung. In diesem Rahmen beschloss der Landtag 1996 das Kärntner Landesrechnungshofgesetz und der Landesrechnungshof übernahm 1997 die Aufgaben des Kontrollamts. Kärnten hatte somit als drittes Bundesland in Österreich nach der Steiermark (1982) und Salzburg (1993) einen Landesrechnungshof.

Seitdem ist der Kärntner Landesrechnungshof verpflichtet, den jährlichen Rechnungsabschluss des Landes zu prüfen. Zu seinen Aufgaben gehören auch Gebarungsüberprüfungen, Prüfungen von Großvorhaben sowie Prüfungen von Förderungen und Subventionen. Der Landesrechnungshof hat unter anderem die Kärntner Krankenanstalten, Parteienfinanzierungen und das Wörtherseestadion geprüft. Durch die Prüfung der Umfahrung in Bad St. Leonhard wurden die Kosten von rund 69 auf rund 46 Millionen Euro gesenkt und rund 23 Millionen Euro eingespart.

2012 änderte der Landtag das Kärntner Landesrechnungshofgesetz. Seitdem darf der Direktor des Landesrechnungshofs seine Mitarbeiterinnen und Mitarbeiter selbst auswählen, denn ihm wurde Diensthoheit zugesprochen, um die Unabhängigkeit zu stärken. Durch die Gesetzesänderung kann der Landesrechnungshof auch die Unternehmungen von Gemeinden prüfen, wie zum Beispiel 2014 das Badehaus Millstätter See. Seit 2012 veröffentlicht der Landesrechnungshof alle Berichte auf seiner Website.

Mit Jahresbeginn 2015 bestellte der Kärntner Landtag einstimmig Günter Bauer zum Direktor des Kärntner Landesrechnungshofs.