Urodził się w Paryżu i tam uczył się śpiewu w Conservatoire National Supérieur de Musique de Paris, potem w Studio Opery Paryskiej. Otrzymał I nagrodę w kategorii operowej i nagrodę publiczności na Międzynarodowym Konkursie w Verviers oraz I nagrodę dla wokalisty na konkursie w Rio de Janeiro (1983). Philippe Rouillon gości na wielu znanych scenach, w Wiedniu, Paryżu, w amsterdamskiej Nederlandse Opera, Lizbonie, Strasburgu i Liège. Philippe Rouillon śpiewał też w Londynie, Madrycie, Utrechcie, Zurychu i Tel Awiwie. We Włoszech występował w Opowieściach 'Hoffmanna w mediolańskiej La Scali, w Sassari i Neapolu. Często pracuje w Niemczech (Bonn, Kolonia, Berlin, Frankfurt, Hamburg, Monachium, Stuttgart i Drezno); regularnie gości w Bregencji, Salzburgu, Kanadzie, USA i Ameryce Południowej. Obszerna dyskografiaartysty jest zapisem jego największych ról, m.in. Mefisto w Potępieniu Fausta pod batutą F. Luisiego, Thoasa (Ifigenia w Taurydzie) z Ivorem Boltonem, św. Franciszka z Asyżu (rola tytułowa) z Kentem Nagano. W ostatnim sezonie Philippe Rouillon wystąpił m.in. jako: Mefistofeles w Potępieniu Fausta w Tel Awiwie, Germont i Nabucco w Hamburgu oraz Herszt (Lelio) w Berlinie, Gérard w Andrea Chénier w lipskim Gewandhausie, śpiewał w Wiener Staatsoper w Opowieściach Hoffmanna i w paryskiej Opéra Bastille jako Król Treflowy w Miłości do trzech pomarańczy oraz jako Hrabia des Grieux w La Scali.