Il suo impegno a livello nazionale lo ha visto protagonista nei due Convegni Ecclesiali di Loreto e di Palermo; in quelle occasioni ha magistralmente guidato il canto dell'assemblea. Durante il Grande Giubileo del 2000, a Roma, ha animato col coro del CoPerLiM una celebrazione presieduta da Giovanni Paolo II, con la presenza di persone disabili, nella Basilica di san Paolo fuori le mura.
Membro per tanti anni della Consulta dell'Ufficio Liturgico della Cei, ha partecipato come esperto di musica liturgica a diversi convegni; ha fatto parte del gruppo di lavoro per la composizione di canti da inserire nella II edizione del Messale Romano. È stato uno dei fondatori e docente del Corso di Perfezionamento Liturgico-Musicale (CoPerLiM) della CEI. Ha rappresentato per tanti musicisti di chiesa, un modello autorevole e completo di animatore musicale della liturgia.
"Quando agisco da esecutore, poniamo all'organo, non mi perdo a melanconizzare sulle vecchie possibilità di suonare 'a tempo pieno'; credo di più all'umile servizio del breve preludio o interludio o postludio ben amalgamato col canto; non disdegno di accompagnare le melodie anche più povere, rivestendole di dignità per quanto mi è possibile; amo il silenzio, quando è richiesto dall'azione; so rinunziare a tanti "pezzi d'autore", eseguibili ormai solo a scopo concertistico, dato che la celebrazione liturgica non è un'occasione offertami per dimostrare la bravura interpretativa, preoccupata dell'estetica più che del rito".
In queste poche righe, che risalgono al 1982, incontriamo tutto Giovanni Maria Rossi, il suo senso del servizio alla preghiera cantata e insieme la consapevolezza di poterle offrire un contributo di qualità. E precisava: "Sento la responsabilità di ʻmediareʼ la Parola fatta carne, perché risuoni attuale; e la parola che la comunità restituisce al Signore, perché coinvolga il più possibile tutto l'uomo".
La difficile sintesi fra il musicista di professione e il liturgo convinto si è gradatamente realizzata in lui, negli anni del dopo-Concilio, con una maturazione compositiva ed esecutiva che soltanto l'intuizione rapida delle mete conciliari poteva garantire.
Tutti noi siamo stati testimoni della sua versatilità - cantare, suonare, animare, comporre, insegnare, fare terapia - che non va attribuita unicamente a un'intelligenza brillante e a un talento fuori del comune. Giovanni Maria è stato intimamente un cristiano musicista: attraverso le sue non poche fasi di crescita e di approfondimento, segnate sovente da prove fisiche dolorose, ha lasciato trasparire una impressionante libertà di spirito, che lo ha reso insieme sperimentatore curioso e fedele discepolo. Un tocco leggero di umorismo e di auto-ironia lo ha salvato da illusioni, rendendolo anche piacevole compagno e amico.
Giovanni Maria non si è mai sottratto all'impegno di servire la riforma liturgica nel proprio settore, pur senza scadere in piccole polemiche di sacrestia. La stessa varietà di collocazioni e incarichi, dalle case camilliane di formazione ai centri di terapia, dai corsi e laboratori liturgico-musicali all'animazione di piccole, medie e grandi assemblee, gli ha richiesto senza interruzione di giocarsi in prima persona, con grinta e con l'intero bagaglio delle sue doti di musicista provetto.