En 34 ans de collaboration avec le Metropolitan Opera de New York – fait unique dans l'Histoire de la musique d'aujourd'hui – James Levine a dirigé les premières représentations au MET de la Clémence de Titus, Idoménée, Porgy and Bess, Oedipus Rex, le Vepres Siciliennes, les Lombards, Stiffelio, Grandeurs et décadence de la ville de Mahagonny… ainsi que les créations mondiales de The Ghosts of Versailles de John Corigliano et The Great Gatsby de John Harbison.
Il a dirigé 2100 représentions de 80 opéras différents, tout en ayant inauguré la série de télévision "The Metropolitan Opera Presents" pour PBS en 1977, et en créant le Young Artist Developement Program en 1980. Il a proposé la première fois depuis un demi-siècle le cycle des Nibelungen complet et réintroduit les récitals et concerts d'artistes maison.
De 1973 à 1993, il fut Directeur Musical du Festival de Ravinia. En octobre 2004 est devenu Directeur Musical de Boston Symphony Orchestra. De 2000 à 2004, il fut également Directeur Musical de l'UBS Verbier Festival Orchestra, pour devenir en 2005 son Conductor Laureate