Karel Berman wurde 1919 in Südböhmen geboren. In Prag nahm er sein Gesangsstudium bei E. Fuchs am Prager Konservatorium auf. Er wurde am 5. März 1943 von der Bahnstation Prag–Holešovice nach Theresienstadt deportiert. Der Transport trug die Bezeichnung CV , Berman hatte die Nummer 1002.
In Theresienstadt arbeitete Berman in der Müllabfuhrkolonne. Schon bald bekam er Kontakt zu Raphael Schächter, mit dem ihn rasch eine tiefe Freundschaft verband. Berman gehörte während seines Aufenthaltes im Ghetto zu den aktivsten und vielseitigsten Künstlern des Theresienstädter Musiklebens. Er übernahm die Partie des Kezal in Smetanas Verkaufter Braut, sang den Sarastro (Die Zauberflöte von Mozart), gab zahllose Lieder- und Arienabende, begleitete seine Kollegen auf dem Klavier, inszenierte Pergolesis Laserva Padrona, leitete einen Mädchenchor und komponierte. In Ullmanns Oper Der Kaiser von Atlantis sang er den Tod – seine letzte Aufgabe in Theresienstadt. Berman war wohl der Solist, der an allen Aufführungen von Verdis Requiem teilgenommen hat.
Am 28. September 1944 wurde Berman zusammen mit vielen anderen Künstlern nach Auschwitz deportiert. Berman überstand die Selektion in Birkenau und wurde als Zwangsarbeiter nach Kaufering gebracht, wo er die Befreiung erlebte. Er ging zurück nach Prag, wurde Professor für Stimmbildung am Konservatorium und an der Musikakademie, war als Solist und Opernregisseur in Pilsen tätig und wurde dann am Nationaltheater Prag verpflichtet, wo er 40 Jahre lang alle wichtigen Rollen der Opernliteratur seines Fachs gestaltete. Er beherrschte 120 Partien. Durch seine hohe gesangliche, musikalische und schauspielerische Befähigung hat Karel Berman die Geschichte des Nationaltheaters auf Tourneen im Ausland entscheidend mitgeprägt. Zu seiner berühmtesten Interpretation zählt die Partie des Leporello in Mozarts Don Giovanni, eine Aufgabe, mit der er unter der Regie von Walter Felsenstein 1966 auch an der Komischen Oper Berlin gastierte. 1994 würdigte August Everding sein Lebenswerk mit dem Preis der internationalen Organisation AIDO. In Wien wurde ihm in Anwesenheit des österreichischen Bundeskanzlers die Fidelio-Medaille überreicht.
Karel Berman starb am 11. August 1995. Drei Monate zuvor war er in dem Theresienstädter Gedenkfestival aufgetreten, wo er noch einmal die Vier Lieder nach chinesischer Poesie sang, die Pavel Haas 1943 – 1944 für ihn geschrieben hatte.