Pochodzący z Syberii pianista Konstantin Scherbakov zadebiutował już w wieku 11 lat, wykonując I Koncert fortepianowy Beethovena z Orkiestrą Filharmoniczną w swym rodzinnym mieście Barnaul. Kształcił się u legendarnego profesora Lwa Naumowa w Moskiewskim Konserwatorium im. Czajkowskiego. Po sensacyjnym zwycięstwie w I Konkursie im. Rachmaninowa w Moskwie (1983) nastąpiły kolejne sukcesy konkursowe, m.in. w Zurychu (Géza Anda), Bozen (Busoni), Rzymie i Montrealu. Początkiem jego wielkich sukcesów w Europie Zachodniej był występ na Międzynarodowym Festiwalu Muzyki Kameralnej w Asolo w roku 1990, gdzie zagrał wszystkie dzieła fortepianowe Sergiusza Rachmaninowa w obecności mistrza Światosława Richtera.

W ostatnich latach Konstantin Scherbakov nagrał ponad 30 płyt dla Marco Polo, Naxos i EMI Classics, obejmujących utwory XIX i XX wieku. W firmie Marco Polo wydano pięć pierwszych płyt (zaplanowano 15) wszystkich dzieł fortepianowych Leopolda Godowskiego. Piąta z nich otrzymała Nagrodę Niemieckiej Krytyki Płytowej 2001. Jego nagranie 24 preludiów i fug Szostakowicza zostało wyróżnione nagrodą Cannes Classical Award (2001), a płyta z transkrypcją Liszta IX Symfonii Beethovena uzyskała nagrodę Niemieckiej Krytyki Płytowej (2005).

W roku 2003 nagrany został kompletny repertuar koncertowy Rachmaninowa i Czajkowskiego z udziałem Filharmoników Moskiewskich, Rosyjskiej Państwowej Akademickiej Orkiestry Symfonicznej oraz Konstantina Scherbakova, jednego z pierwszych artystów, jakich EMI Classics zaangażowała do nagrań debiutanckich. W tym samym roku występował na całym świecie ze swoimi programami poświęconymi Rachmaninowowi.

W repertuarze posiada prawie 50 koncertów fortepianowych oraz podobną ilość programów solowych z dziełami z różnych epok. Koncertował na znaczących międzynarodowych festiwalach muzycznych, jak na przykład: Salzburger Festspiele, Schubertiade Schwarzenberg, Klavierfestival Ruhr, Kissinger Sommer, Klavierfest „Raritäten der Klaviermusik“ Husum, jest regularnym gościem festiwalu w Lucernie i w najważniejszych centrach muzycznych Europy (m.in. Kölner Philharmonie, Herkulessaal München, Tonhalle Zürich, Konzerthaus Berlin, Bonn Beethovenhalle, Wigmore Hall London, Gewandhaus Leipzig) oraz Azji. Działalność koncertową dopełniają nagrania radiowe i telewizyjne (ARD, SF, Radio France Musique, Radio DRS 2, BBC).

Od 1992 roku pianista mieszka z rodziną w Szwajcarii.