Nato a Lugano in una famiglia di artisti, Rocco Filippini ha compiuto gli studi musicali sotto la guida di Pierre Fournier. Nel 1964 ha vinto il Concorso Internazionale di Ginevra, iniziando subito dopo la sua carriera.
Ha dato centinaia di concerti nei principali centri musicali d’Europa, delle due Americhe, del Giappone e dell’Australia: Teatro alla Scala di Milano, Albert Hall e Festival Hall di Londra, Théâtre des Champs Elysées di Parigi, Philharmonie di Berlino, Musikverein e Konzerthaus di Vienna, Herkules Saal di Monaco, Concertgebouw di Amsterdam, Lincoln Center di New York, Opera House di Sydney, Suntory Hall di Toky e Teatro Colón di Buenos Aires. Ha partecipato, fra gli altri, ai festival di Lucerna, Spoleto, Salisburgo, Marlboro (dove è stato ripetutamente invitato da Rudolf Serkin), Edimburgo, Stresa, Pesaro, Newport, Gerusalemme, Ravenna ed Helsinki.
Nel 1968 ha fondato il Trio di Milano e, più recentemente, il Quartetto Accardo. Suona in duo col pianista Michele Campanella, collaborando da anni con alcuni fra i più grandi concertisti del nostro tempo. In tempi recenti, ha intensificato l’attività di direttore d'orchestra, alla testa di complessi quali: l’Orchestra da Camera di Padova e del Veneto, l’Orchestra da Camera di Mantova, quella di Santa Cecilia, l’Orchestra Verdi e quella dei Pomeriggi Musicali di Milano, la Scarlatti di Napoli, la Filarmonica di Torino ed altre.
Accademico di Santa Cecilia, per venticinque anni docente di violoncello presso il Conservatorio Giuseppe Verdi di Milano, nel 2003 Rocco Filippini è stato nominato da Luciano Berio docente di musica d’insieme ai Corsi di perfezionamento dell’Accademia di Santa Cecilia a Roma.
Nel 1985 ha dato vita ai corsi dell’Accademia Walter Stauffer di Cremona insieme a Salvatore Accardo, Bruno Giuranna e Franco Petracchi. Già membro della facoltà dell’Academy of the European Mozart Foundation, diretta allora da Sandor Vegh, tiene numerosissimi corsi di perfezionamento, anche alla Scuola di Fiesole.
Nel 1997 è stato insignito del Premio della Fondazione del Centenario della Banca Svizzera Italiana per il contributo allo sviluppo dei rapporti culturali tra Svizzera e Italia.
Alcuni tra i massimi compositori contemporanei, quali Luciano Berio, Franco Donatoni e Salvatore Sciarrino, gli hanno dedicato loro opere.
Il suo violoncello è il “Gore Booth”, ex-Baron Rothschild di Antonio Stradivari (1710).