Geboren 1957 in der Gaal (Steiermark), studierte Otto Kargl von  Kirchenmusik, Konzertfach Orgel und Instrumentalpädagogik an der Hochschule für Musik und darstellende Kunst in Graz. Er schloss sein Studium mit Auszeichnung ab und erhielt den Würdigungspreis des Bundesministeriums für Wissenschaft und Forschung.

In den Jahren von 1990 bis 1993 besuchte Otto Kargl mehrere Interpretations-Seminare der Bachakademie und des Europäischen Musikfestes in Stuttgart, wo er wichtige Impulse von John Eliot Gardiner in dirigiertechnischer Hinsicht und von Peter Gülke im Bereich der wissenschaftlichen Kompetenz erhielt. Wichtige Anregungen erhielt er auch von Josef Mertin (Alte Musik), Godehard Joppich (Gregorianik) und Helmut Rilling hinsichtlich der theologisch-spirituellen Dimension der Geistlichen Musik.

Von 1984 bis 1992 war Otto Kargl als Regionalkantor der Diözese St. Pölten tätig. 1992 trat er die Stelle des Domkapellmeisters an der dortigen Kathedralkirche an und gründete die Domkantorei als ein weiteres Ensemble der Dommusik. Zusätzlich zu seiner Tätigkeit als Domkapellmeister unterrichtet Otto Kargl Gregorianik, Chordirigieren und Chorsingen am Konservatorium für Kirchenmusik in St. Pölten. 1992 übernahm Otto Kargl auch die künstlerische Leitung des Festivals Musica Sacra in Niederösterreich. 2004 erhielt er den Förderpreis der Landeshauptstadt St. Pölten für Wissenschaft und Kunst sowie 2010 den Kulturpreis des Landes Niederösterreich.

In besonderem Maße widmet sich Otto Kargl auch der Wiederentdeckung vergessener Werke wie z.B. den Messen von Johann Heinrich Schmelzer, Heinrich Ignaz Franz Biber und Johann Joseph Fux, der Matthäuspassion von Johann Theile und den Kantaten aus dem Altbachischen Archiv.
Das Repertoire Otto Kargls reicht von der Gregorianik über die großen Chor-Orchester-Werke der Barockzeit und Klassik (Monteverdis Marienvesper, Buxtehudes Membra Jesu Nostri, Bachs Johannes- und Matthäuspassion und die Messe in h-moll, Händels Messias, Alexanderfest und Israel in Egypt, Requiem und Messe in c-moll von Mozart sowie Haydns Schöpfung und Nelsonmesse) bis hin zu Kompositionen des 20. und 21. Jahrhunderts. Instrumentale Partner sind ihm dabei u.a. Private Musicke, Les Cornets Noirs, Piccolo Concerto Wien, Solamente Naturali Bratislava und das L'Orfeo Barockorchester.

Die geistliche Musik der Gegenwart ist Otto Kargl ein besonderes Anliegen. So leitete er bereits mehrere Uraufführungen, darunter Bruno Strobls Vesper (1992), Christoph Czechs Kantate B.A.C.H. (1996), Thomas Daniel Schlees Der Baum des Heils (1993), Dann steht der Mandelbaum in Blüte (1995) und das Oratorium ... und ich sah (2003), Franz Danksagmüllers Passio (2001), Joanna Woznys Ferne – Annäherung (2008), Beat Furrers Enigma IV: profezie (2010), Klaus Langs stufen.linien (2010), Franz Thürauers Verklärung (2011) und Rudolf Jungwirths Hymnus (2013).

Otto Kargl ist Leiter von Werkwochen für Kirchenmusik in Salzburg, Brixen und Innsbruck. 2001 folgte er einer Einladung zum Festival für Alte Musik nach Finnland. Dort erarbeitete er mit großem Erfolg ein deutsches Barockprogramm mit dem Rundfunkchor Helsinki, das im finnischen Rundfunk direkt übertragen wurde. Nach finnischen Presseberichten war mit dem Chor „ein Wunder geschehen. Niemals ist der Klang so warm und hell gewesen, niemals hat das Ensemble so miteinander gelebt.“
Mit den Ensembles der Dommusik St. Pölten und der cappella nova graz produzierte Otto Kargl zahlreiche Rundfunkaufnahmen und CD-Produktionen, unter anderem in der Edition für Alte Musik des ORF. Zuletzt erschienen in der ORF-Edition die Motetten von Johann Sebastian Bach und die Messe e-moll von Anton Bruckner.