２０世纪恐怕没有哪一位音乐指挥能像卡拉扬那样成就卓越。他毕生追求的完美音乐，是一种纯净得没有任何杂音的天籁之声。这种追求完美的精神至今仍然影响着不同国家、不同年龄的音乐人。卡拉扬也因此被誉为世界音乐指挥界“象牙塔顶端的宝石”。
卡拉扬在奥地利建树不凡，其中最值得一书的当属１９５７年至１９６４年担任维也纳国家歌剧院的艺术指导。这期间，他大胆革新，一改歌剧院的颓废之势。
卡拉扬受聘时，历史悠久的维也纳国家歌剧院正陷入低谷：纪律涣散、剧目沉闷、指挥低劣、演唱水平差。卡拉扬认为，造成这一局面的主要原因是体制陈旧和唱片工业崛起带来的冲击。
为扭转颓势，卡拉扬力排众议，首先建立歌手流动制度，破除了“演出季期间签约歌手不论是否熟悉作品都得上台”的旧规，允许剧院根据剧目聘请适当歌手上台。这一措施使得歌手表演的都是自己最熟悉的角色，从而保证了演唱质量。
同时，卡拉扬力促维也纳国家歌剧院与意大利米兰斯卡拉歌剧院以及萨尔茨堡音乐节建立合作关系，明显降低了歌剧制作成本。随后他又进行人事改革，淘汰了不称职的乐队队长，并广纳优秀人才与歌剧院合作。
经过一系列改革，卡拉扬终于在上任数月后带领“崭新”的维也纳国家歌剧院将瓦格纳的《女武神》和威尔第的《奥赛罗》奉献给观众，结果大获成功。接着他又将《费德里奥》《没有影子的女人》《佩利亚斯与梅丽桑德》等歌剧搬上舞台。凭着精心的准备、优良的制作以及卡拉扬本人完美的音乐指挥艺术，这些歌剧都获得成功。维也纳国家歌剧院重新赢回了国际声誉。
卡拉扬生在奥地利、逝于奥地利，在他近７０年的音乐艺术生涯中，奥地利并非他最重要的舞台。比起与柏林爱乐乐团３４年的合作，卡拉扬执掌维也纳国家歌剧院的时间并不长，但他当年的改革使这座古老歌剧院重新焕发了生机。
