Er gehörte als Dirigent, Opern- und Musikfilm-Regisseur zu einer der bedeutendsten musikalischen Persönlichkeiten des 20. Jahrhunderts.
1908 in Salzburg geboren, erhält er als Vierjähriger seinen ersten Klavierunterricht. Schon am Mozarteum in Salzburg wird er dazu angeregt, sich als Dirigent ausbilden zu lassen. Trotzdem studiert von Karajan zunächst drei Semester lang Maschinenbau, beginnt aber gleichzeitig am Musikwissenschaftlichen Institut der Universität Wien und an der Wiener Akademie für Musik und darstellende Kunst mit einem Klavierstudium und der dortigen Dirigentenklasse. 1929 dirigiert er erstmals das Mozarteum-Orchester in Salzburg.
Nach ersten Engagements als Kapellmeister am Ulmer Stadttheater und als Leiter von Symphoniekonzerten und Opernaufführungen am Aachener Stadttheater dirigiert er die Berliner Philharmoniker sowie an der Wiener Staatsoper. 1938 folgt ein Vertrag mit der Deutschen Grammophon Gesellschaft. 1939 wird er als Staatskapellmeister an die Berliner Staatsoper berufen.
Am 12. Januar 1946 gibt er mit den Wiener Philharmonikern das erste Nachkriegskonzert. Ab 1948 ist er Künstlerischer Direktor der Gesellschaft der Musikfreunde in Wien und Chefdirigent der Wiener Symphoniker. Auf enge Zusammenarbeit mit dem Londoner Philharmonia Orchestra und als ständiger Gastdirigent der Mailänder Scala folgen zahlreiche, weitere Gastverpflichtungen in Europa und Übersee.
1955 wird Herbert von Karajan (seit 1956 auf Lebenszeit) zum Chefdirigenten der Berliner Philharmoniker in der Nachfolge von Wilhelm Furtwängler berufen. 1963 wird die Einspielung des kompletten Beethoven-Symphonienzyklus mit den Berliner Philharmonikern unter Herbert von Karajan veröffentlicht - bis heute eine der erfolgreichsten Aufnahmen klassischer Musik.
1967 gründet er die Osterfestspiele Salzburg, hierbei übernimmt er die künstlerische Gesamtleitung und eröffnet die Festspiele mit der Walküre.
Herbert von Karajan trat gelegentlich bei Konzerten auch als Pianist in Erscheinung. So dirigierte er vom Cembalo aus Die Vier Jahreszeiten von Antonio Vivaldi mit Anne-Sophie Mutter bei der Eröffnung des Kammermusiksaals der Berliner Philharmonie.
Er erhielt zahlreiche Ehrungen und Preise, unter anderem das Goldene Grammophon oder die Ehrenbürgerschaft der Stadt Salzburg. Außerdem existiert die Herbert-von-Karajan-Stiftung in Berlin, zu der ein Dirigentenwettbewerb gehört.
Bei der Deutschen Grammophon, Karajans Haus-Label seit den Sechzigerjahren, spielte er rund 700 Werke von 130 Komponisten ein; weltweit wurden rund 300 Millionen Tonträger verkauft, auf denen sein Name zu lesen ist.
Am 16. Juli 1989 stirbt Herbert von Karajan an den Folgen eines Herzversagens während der Proben zu Verdis "Un ballo in maschera" in Salzburg. Viel diskutiert wurde sein Verhältnis zum Antisemitismus. Von Karajan war Mitglied der NSDAP, soll aber diese Mitgliedschaft rein zu Karrierezwecken genutzt haben. Über seine tatsächliche politische Ausrichtung herrscht Uneinigkeit.