Nació en Bombay y recibió su primera educación musical junto a su padre Mehli Mehta, destacado concertista de violín y fundador de la Orquesta Sinfónica de Bombay. En 1954 ingresó al programa de Dirección Orquestal en la AkademiefürMusik de Viena. Ganó la Competencia Internacional de Dirección de Liverpool en 1958 y también un premio de la Academia de Verano en Tanglewood. Para 1961 ya había dirigido a las Filarmónicas de Viena, Berlín e Israel, con las que acaba de celebrar cincuenta años de colaboración. Fue Director Musical de la Orquesta Sinfónica de Montreal de 1961 a 1967 y de la Filarmónica de Los Ángeles entre 1962 y 1978. En 1969 fue designado Asesor Musical de la Filarmónica de Israel y en 1981 se le otorgó el título de Director Musical vitalicio. La ha dirigido en más de tres mil conciertos en giras que incluyen los cinco continentes. En 1978 tomó el cargo de Director Musical de la Filarmónica de Nueva York, un mandato que duraría trece años. Desde 1985 hasta 2017, fue director principal de la Orquesta del Maggio Musicale Fiorentino en Florencia.
Como director de ópera ha dirigido en el Metropolitan de Nueva York, la Estatal de Viena, el Covent Garden de Londres, la Scala de Milán, las óperas de Chicago y Florencia, así como en el Festival de Salzburgo. Entre 1998 y 2006 fue el Director Musical de la Bavarian State Opera en Munich.
Junto a su hermano Zarin, codirige la Fundación Musical Mehli Mehta en Bombay, donde chicos estudian música clásica occidental y la escuela de música Buchmann-Mehta, en Tel Aviv, donde desarrolla jóvenes talentos en Israel.
