貝姆．卡爾生於奧地利的格拉茨。曾於格拉茨大學研習法律，同時又在格拉茨音樂會院上鋼琴和理論課。他的父親是位律師及業餘音樂家，也是漢斯．李赫特的朋友，他認為兒子如果不能作一個有出息的音樂家，就必須有律師這個職業作後盾。後來貝姆在維也納音樂學院師從門迪契夫斯基。第一次世界大戰役受傷後，貝姆返格拉茨大學修得法律博士學位（1919），並在格拉茨歌劇院擔任提詞員。從未正式學過指揮的他聽從李赫特勸告，放棄法學而專事音樂指揮。1920年首次被任命為格拉茨歌劇院指揮。當他指揮華格納的《羅安格林》演出時，正巧卡爾．穆克（Karl Muck）在場，聽後大為心儀，乃主動表示願幫他學習華格納歌劇。經他向華爾特推薦後，貝姆去了慕尼黑歌劇院，一年後被華氏聘用。貝姆深受華爾特演出莫札特歌劇風格的影響，縱然他後來認為華爾特對莫札特演奏得過於傷感。他說：「你可以感覺到莫札特音樂的所有感情，但他從不多愁善感。」不過他認為史特勞斯表現莫札特速度太快。華爾特離開慕尼黑後，貝姆轉至克納佩茲布許手下工作，後赴達姆斯達特任首指揮（1927-1931），1933年前他在漢堡也當過兩年首席指揮，1934-1943年間接替布許擔任德勒斯登歌劇院音樂監督，最後轉往維也納國立歌劇院。在德勒斯登他擁有頗為理想的條件，歌者與團員沒有什麼變更，長期共事，不須為長途巡迴演出及其它的雜務干優。此間他與薩克森國家管弦樂團合作為HMV公司灌錄的78轉唱片中，最著名的主要有貝多芬的《第九號交響曲》、《小提琴協奏曲》（施特魯布獨奏）、《第三號鋼琴協奏曲》（柯列沙獨奏），《第四號鋼琴協奏曲》（季雪金獨奏）、《第五號鋼琴協奏曲》（費雪獨奏），布拉姆斯《小提琴協奏曲》（許奈德漢獨奏），布魯克納的《第四號交響曲》、《第五號交響曲》，理查．史特勞斯交響詩《狄爾的愉快惡作劇》、《唐璜》以及華格納歌劇《紐倫堡名歌手》的第三幕全本。
     貝爾格的《伍采克》於1928年也由貝姆在達姆斯達特指揮下首演，貝爾格親自出席聆聽了最後幾天的排練。之後貝姆便成了貝爾格歌劇《伍采克》和《露露》的權威詮釋者，DGG公司曾錄了這兩部歌劇。自1933年理查．史特勞斯在漢堡拜訪了正準備《阿拉貝拉》上演的貝姆後，他倆便交往密切。後來於德勒斯登他首演了《沉默的女人》首史氏題獻給他的《達芬妮》。史氏的主要管弦樂作品和歌劇都是由貝姆指揮首演的。貝姆說史氏堅持務必要使劇本台詞清晰可辨，排練《沉默的女人》時，貝姆抱怨木管部份密度太大以致聽不清台詞，史氏便欣然重寫，將木管調淡。此外，貝姆也聽過史特勞斯指揮自己的交響詩和歌劇，這些經歷使他能洞察這些作品的深刻內涵，自然使他的詮釋具備了相當權威性。1936年貝姆率德勒斯登國家歌劇院在柯芬園演出《玫瑰騎士》和《崔斯坦與伊索德》，之後被邀請再次返演《艾雷克塔》和《莎樂美》，但貝姆卻以藝術方面的理由拒絕了。
     二次世界大戰後，貝姆被允許重登指揮台（1947年）。擔任了維也納國家劇院指揮（1950-1953）。早在1933年他已在維也納指揮過《崔斯坦與伊索德》，1954年他受聘簽了五年合同，翌年，Ringstrasse歌劇院重建後的首演便是由他指揮《費黛里奧》，不料遭致當地強烈批評，主要原因是他並沒有老老實實地待在維也納，特別是1950-1954年間去了南美，在布宜諾斯艾利斯的Teatno Colon當德奧曲目顧問。合同只履行了15個月他便辭職了，後由卡拉揚接任。不過他仍繼續在維也納指揮。但他在合作期滿前就與維也納國家歌劇院毀約。卡拉揚和以後的馬捷爾也有這種經歷。貝姆於1956年首度在美國露面，客席指揮芝加哥交響樂團。不久，在達姆斯達特與他共事過的魯道夫．賓（Rudotf Bing）聘請他為紐約大都會歌劇院效力，於是1957年他首次在大都會推出莫札特的《唐喬萬尼》而大受青睞。後來他又演出《紐倫堡名歌手》和《伍采克》（1959年）、《帕西法爾》（1961）、《費黛里歐》（1963）、《達芬妮》（1964）、《漂泊的荷蘭人》、《莎樂美》（1965）、《沒有影子的女人》和《羅安格林》（1966）。儘管他在大都會和科隆歌劇院大部份的精力都放在的德國劇目上，但在義大利和德國他也指揮過不少義大利歌劇。一次他有德勒斯登為了準備《法斯塔夫》上演，一共進行25次總排練和15次舞台彩排。他一生總共指揮過150部不同歌劇，1962年在拜魯特他作了一次精彩絕倫的表演，劇目是《崔斯坦與伊索德》，已被錄製成唱片保存。他還曾率領柏林愛樂在日本巡演。1963年在拜魯特首次推全本《尼布龍根指環》，也已製成唱片。1967年他率領維也納愛樂巡演美國、加拿大。1970年他因對維也納音樂界貢獻卓越而榮獲金牌大獎章，並享受奧地利音樂總監督的殊榮。1973他在薩爾茲堡指揮倫敦交響樂團，1977年接替布利斯爵士任該樂團總監。 
     貝姆是歐洲指揮中聲名極其顯赫的，尤其對德奧作品能作最精緻入微的表現，可說是最權威出眾的詮釋者之一。他慣於發號施令，甚至有時會不講理地批評團員。他說話輕聲細語，但易於博得樂團的尊敬。他的指揮手勢簡練，能以小動見大功。與其他指揮大師一樣，他靠眼神與團員溝通思想，交流情感。他的詮釋凝重平衡，不拘泥舊規，但也從不標新立異。他不會刻意去突出細節；或誇大動人弦之筆；亦或有意增加高潮的熱度，但在速度、力度和分節上絕對精確。他指揮灌錄的莫札特、貝多芬、舒伯特、布拉姆斯和布魯克納氣勢恢宏，音色優美華麗。其中貝多芬《第六號交響曲》和布魯克納《第四號交響曲》（維也納愛樂）可說是典範之作。但對於需要靈性或藝術感悟性的作品，諸如貝多芬《第七號交響曲》，就因過於流暢而缺乏張力，以致最終的熾熱化便不夠淋漓盡緻。他的莫札特音質文雅，結構平衡，分句恰到好處。他的音量是響亮的，但有時也許會過於響亮，而使風格變得不那麼可信了。有時他企圖讓作品自然表現，不過在不知不覺中刻意的雕琢還是替代了靈感。比起畢勤的極端華麗、華爾特的強烈抒情和塞爾的絕對準確，貝姆顯然別具一格。
     他的指揮藝術已大多被完美地保在唱片裡，近50年來，他一直是位卓越的錄音指揮家，其後期錄音的合作拍檔是柏林愛樂以及維也納愛樂。貝姆的唱片內容大都脫不了德國和維也納古典樂派的重要目錄（除了貝爾格的兩齣歌劇和柴可夫斯基的最後三首交響曲），但是海頓作品幾乎全被忽略。他的歌劇和交響曲唱片數量驚人，有些唱片因而無法達到最高水平，確實難以避免。但是他那萬無一失的鑑賞力、試懇萬篤的音樂態度和深邃的音樂稟賦，卻是無庸置疑的。