Jansons wurde in Riga als Sohn des lettischen Dirigenten Arvīds Jansons geboren. Seine Mutter Iraida, eine jüdische Sängerin, brachte ihn in einem Versteck zur Welt, in das sie sich geflüchtet hatte, nachdem ihr Vater und ihr Bruder im Rigaer Ghetto umgekommen waren. 1946 gewann sein Vater den zweiten Preis in einem nationalen Wettbewerb und wurde von Jewgeni Mrawinski zu seinem Assistenten bei den Leningrader Philharmonikern gemacht. 1956 folgte ihm seine Familie nach. Jansons studierte Violine, Klavier und Dirigieren am Leningrader Konservatorium und ging 1969 nach Österreich, wo er seine Ausbildung bei Hans Swarowsky und Herbert von Karajan fortsetzte. 1973 wurde er wie sein Vater zuvor stellvertretender Dirigent der Leningrader Philharmoniker. Von 1979 bis 2000 war er Leiter des Osloer Philharmonie-Orchesters, mit dem er zahlreiche Aufführungen, Aufnahmen und Tourneen hatte. 1996 erlitt er beim Dirigieren der letzten Partiturseiten von La Bohème einen lebensbedrohlichen Herzanfall auf dem Podium in Oslo (sein Vater war beim Dirigieren verstorben). 1992 wurde er zum Haupt-Gastdirigenten des London Philharmonic Orchestra, 1997 zum Chefdirigenten des Pittsburgh Symphony Orchestra ernannt. Seit Herbst 2003 ist er als Nachfolger Lorin Maazels Chefdirigent beim Chor des Bayerischen Rundfunks und Symphonieorchester des Bayerischen Rundfunks, seit September 2004 zusätzlich Chefdirigent des Amsterdamer Concertgebouw-Orchesters, hier in der Nachfolge von Riccardo Chailly. Im Jahr 2006 leitete Jansons erstmals das Neujahrskonzert der Wiener Philharmoniker. Im Oktober 2007 führte Jansons mit dem Chor und dem Symphonieorchester des Bayerischen Rundfunks die Neunte Symphonie von Ludwig van Beethoven und die Chormotette Tu es Petrus von Giovanni Pierluigi da Palestrina im Vatikan auf; das Konzert wurde von zahlreichen Sendern weltweit übertragen. Weitere Meilensteine der Zusammenarbeit mit den Klangkörpern des Bayerischen Rundfunks waren die Aufführungen der Requien von Verdi, Mozart und Dvořák; von Strawinskis Psalmensinfonie, Poulencs Stabat Mater und Leonard Bernsteins Chichester Psalms. Im Karajan-Gedenkjahr führte der Karajan-Schüler Johannes Brahms’ Deutsches Requiem auf, eines der Lieblingswerke Karajans, das von der Presse als überragendes Klangereignis gefeiert wurde. Am 20. April 2010 wurde bekannt, dass Jansons die nächsten Monate wegen Krankheit ausfallen werde. Bei seinem für den 3. Mai 2010 vorgesehenen Debüt an der Wiener Staatsoper (als Dirigent der Bizet-Oper Carmen) vertrat ihn sein Schüler und Landsmann Andris Nelsons am Pult. 2012 dirigierte Mariss Jansons zum zweiten Mal das Neujahrskonzert der Wiener Philharmoniker. Im Herbst 2012 haben das Symphonieorchester und der Chor des Bayerischen Rundfunks mit Mariss Jansons in der Suntory Hall in Tokio den Zyklus aller neun Beethoven-Symphonien aufgeführt. Nach 2006 und 2012 leitete Jansons auch das Neujahrskonzert der Wiener Philharmoniker 2016.