Nasce nel 1962 a in Saint Jean de Luz (Basque country; France); dal 1974 ha studiato teoria musicale per quattro anni al conservatorio di Bayonne e prende lezioni di chitarra per un anno. Dal 1976 Jean-Marie suona in diversi gruppi locali di musica dance, rock e jazz. Nel 1981 entra nel conservatorio di Bordeaux per studiare armonia; nel 1982 trovandosi in disaccordo sui metodi di insegnamento si iscrive all’università di Pau a studiare filologia spagnola. Qui realizza quanto lo studio da autodidatta sia lontano dall’educazione musicale e decide di diventare un musicista professionista. Si trasferisce in Spagna dove diventa membro del gruppo pop Itoiz e nel 1984/85 suona in una rock band chiamata Orquesta Mondragon con Ray Gomez.
Nel 1986 crea la fusion band La Noche con Angel Celada e registra con Joan Baez un cd live intitolato Diamond and rust in the bullring. Ha suonato con Jorge Pardo, Carlos Benavent e ancora in Francia con Bernard Lubat, il quale lo presenta a Didier Lockwood.
Nel 1989 si trasferisce a Parigi e inizia una tournée mondiale per quattro anni con i Didier Lockwood Group. Nel 1992 diventa il co-leader del trio Caron, Ecay, Lockwood, il cui disco prevede un tour in Francia, Cina, Korea, e Canada.
Dal 1994 fino al 1998, Jean-Marie Ecay lavora principalmente con il cantante francese Claude Nougaro per il quale scrive numerose canzoni.
Nel 1995 produce il suo primo album da solista Atlantic Blues, registrato durante un concerto dal vivo. Dal 1999 al 2003 è in tour con Riccardo Galliano. Nel 2001, registra il suo secondo album World Energy Blues, quarta volta in studio. Ha inoltre partecipato a molte session in studio con Stanley Clark, Michel Portal, Barbara, Mylene Farmer e altri. Nel 2005 registra il dvd Live in biarritz 2003 e il cd con Eric LeLann dedicado alla musica di Jobim He.
Dal 2006 è regolarmente in tour a fianco di Billy Cobham e ha partecipato alla registrazione degli album dell’artista. Jean-Marie Ecay lavora attualmente con il nuovo trio di Alain Caron, e parallelamente sta progettando lavori propri e il nuovo cd in trio.