Kārlis Zariņš dzimis 1930. gada 6. jūlijā. Pēc Latvijas Mūzikas akadēmijas absolvēšanas 1960. gadā un stažēšanās Sofijas konservatorijā Bulgārijā pie prof. I. Josifova, 1960. gadā Kārlis Zariņš kļuva par Latvijas Nacionālās operas solistu. Izcilais mākslinieks dziedājis arī bijušajā PSRS, Rumānijā, Bulgārijā, Čehijā, Slovākijā, Spānijā, Vācijā, Itālijā, Holandē, Beļģijā, Zviedrijā, koncertējis arī Francijā, Austrijā, Grieķijā, ASV, Kanādā un citviet pasaulē. Desmit gadi (1970–1980) pavadīti ārštata solista statusā Krievijas Valsts Akadēmiskajā Lielajā teātrī Maskavā, kur vairāk nekā piecdesmit reižu Kārlis Zariņš dziedājis Hermani, Radamesu un Hozē. Kārlis Zariņš piedalījies operu iestudējumos dažādos starptautiskos festivālos – 1992. gadā viņš Dreieihas festivālā Vācijā dziedāja R. Štrausa Salomes iestudējumā, kā arī Dž. Verdi operas Dons Karloss iestudējumā Buseto festivāla ietvaros Itālijā, bet 1995. gadā mākslinieks dziedājis R. Štrausa operā Elektra Grācā, Austrijā.
Ap 2000 koncertos Rīgā un citur pasaulē Kārlis Zariņš dziedājis tenora partijas Dž. Verdi, V. A. Mocarta, A. Dvoržāka Rekviēmos, G. Mālera Astotās simfonijas atskaņojumā un Dziesmā par zemi, A. Šēnberga Gurres dziesmās un citur. Starp Kārļa Zariņa skatuves partneriem bijuši Greisa Bambrija, Žozefīne Barstova, Anna Tomova-Sintova, Gena Dimitrova, Jeļena Obrazcova, Irina Arhipova, Zinaida Palli, Jeļena Čerņeja, Marija Biešu, Luiss Kiliko, Džordžs Londons, Žozefs Aulo, Nikolajs Gjuzeļevs, Jevgeņijs Ņesterenko, Jurijs Mazurovs, Sergejs Leiferkuss. Dažādās izrādēs un koncertos Kārlis Zariņš strādājis ar izciliem diriģentiem – Genādiju Roždestvenski, Juriju Svetlanovu, Nēmi Jervi, latviešu meistariem Edgaru Tonu, Rihardu Glāzupu, Leonīdu Vīgneru, Arvīdu Jansonu un citiem.
Kārļa Zariņa balss solodziesmās, kamermūzikā, vokāli instrumentālajos skaņdarbos un operlomās iemūžināta skaņu ierakstos.
Kārlis Zariņš bijis arī Jāzepa Vītola Latvijas Mūzikas akadēmijas profesors, viņa kādreizējo audzēkņu vidū ir Jānis Sproģis, Aleksandrs Poļakovs, Ingus Pētersons, Guntars Vētra, Sergejs Jēgers un citi.
Par izcilu ieguldījumu Latvijas vokālajā mākslā Kārlis Zariņš saņēmis Lielo mūzikas balvu (1994), viņš ir arī Aldara balvas laureāts.