Karl Röhle studierte an der Hochschule für Musik "Carl-Maria-von-Weber" in Dresden das Fach Trompete mit Lehrbefähigung und war von 1961 bis 1963 am Stadttheater Bernburg und am Opernhaus Karl-Marx-Stadt als Trompeter tätig.
 
1963 wechselte er hauptberuflich als Lehrer für Blechblasinstrumente an die Musikschule Flöha, Außenstelle Zschopau.
 
1967 übernahm er erstmals das Dirigat des Thumer Orchesters und leitete den Klangkörper bis 1981 gemeinsam mit Dr. Johannes Fritzsche.
 
Nach zwei Jahren als alleiniger Dirigent des Orchesters stieg 1983 Wolfgang Grüneberg an der Seite Röhles in die Leitung des Orchesters ein.
 
Seine aktivie Dirigentenlaufbahn beendete Karl Röhle zum Anschlusskonzerte des 11. Thumer Orchestertreffs im Jahre 2001.
 
Karl Röhle verstarb am 07.02.2002 - nur elf Tage nach seiner Frau Renate.