Los miembros de la banda se conocieron por el baterista de jazz Bob Moses, que había actuado con Medeski y Wood, y era el instructor de Martin.
Medeski Martin & Las primeras actuaciones de Wood juntos fueron en el Village Gate, un popular club de jazz de Nueva York. Aunque comenzaron con una configuración de jazz de piano, bajo y batería más o menos directa, el trío expandió su sonido con configuraciones inusuales. Su primer álbum, Notes from the Underground, es un disco de su era totalmente acústica, pero Medeski pronto agregó piano eléctrico (equipado con pedales de distorsión y otros efectos), y comenzó a cambiar entre órgano Hammond, Clavinet, Mellotron y otras teclas. La madera alternaba entre el stand-up y el bajo, pegaba papel detrás de sus cuerdas para un efecto de «trampa» y ocasionalmente empleaba un muslo como diapositiva. Wood evitó por completo el bajo eléctrico para los primeros tres álbumes de MMW, y todavía depende en gran medida del bajo vertical acústico en grabaciones y durante las actuaciones en vivo. Sus primeros álbumes revelan una actualización influenciada por el Hip Hop de los sonidos clásicos del soul jazz, que es el tema principal de su conocido álbum de 1996, Shack-man.
La banda recibió su primera exposición significativa fuera de la escena de jazz de la ciudad de Nueva York al actuar con Phish en su concierto del 14 de octubre de 1995, lo que llevó a la asociación del grupo como una banda de improvisación. Además, su actuación en el álbum A Go Go de 1997 de John Scofield ayudó a aumentar su exposición. La banda colaboró con Scofield de nuevo en 2006, lanzando el álbum Out Louder bajo el nombre de Medeski Scofield Martin & Wood. Este fue el primer álbum lanzado por el propio Indirecto Records de MMW.
De 1998 a 2005, MMW firmó con el sello de jazz Blue Note Records, y les mostró profundizar en el funk electrónico denso que sus álbumes anteriores, aunque la banda continuó experimentando con el jazz libre y la improvisación libre tanto en sus álbumes como en conciertos.
En 1999 la banda se presentó en Toronto, Ontario.
En 2001, MMW interpretó varias canciones para el álbum recopilatorio Red Hot + Indigo de la Red Hot Organization, un tributo a Duke Ellington, que recaudó dinero para varias organizaciones benéficas dedicadas a aumentar la conciencia sobre el SIDA y luchar contra la enfermedad.
Medeski Martin & Las actuaciones en vivo de Wood son famosas por su naturaleza exploratoria. Sus conciertos suelen incluir improvisaciones extendidas, que pueden ser tanto arrítmicas como atonales, un aspecto de su maestría musical que rara vez se documenta en el estudio. Ocasionalmente hacen giras usando solo instrumentos acústicos, volviendo a la instrumentación con la que comenzaron su carrera. Su álbum Tonic es un ejemplo de estas interpretaciones acústicas más contemporáneas. También han hecho giras cortas de actuaciones totalmente improvisadas. Estos espectáculos generalmente consistían en dos conjuntos de improvisación, seguidos de un bis de una canción de un álbum.