Studiował u prof. Konrada Richtera w konserwatorium w Stuttgarcie oraz u prof. Hansa Leygrafa w Berlińskiej Akademii. Już wtedy zdobywał liczne nagrody na międzynarodowych konkursach muzycznych, m.in. I nagrodę na Konkursie im. Artura Schnabla w Berlinie (1990) i Grand Prix na Niemieckim Konkursie Muzycznym w Bonn (1993); był też jednym z finalistów konkursu w Santander (1992).
Dzięki zdobyciu I miejsca na Konkursie im. Królowej Elżbiety (1995), co nie udało się wcześniej żadnemu innemu pianiście z Niemiec, Markus Groh potwierdził swą pozycję jednego z najwybitniejszych pianistów swego pokolenia. Do najważniejszych wydarzeń dwóch ostatnich sezonów należą dwa tournées po Japonii z muzykami orkiestry Filharmonii Berlińskiej, debiuty z Orkiestrą Kameralną z Lozanny i Orchestre de la Suisse Romande oraz występy na festiwalach w Ruhrze, Bad Kissingen, Rheingau, Oslo i Szlezwiku-Holsztynie. Wielkim powodzeniem cieszyło też tournée z orkiestrą Filharmonii z Liège oraz występy z recitalami po najważniejszych salach koncertowych Niemiec, Szwajcarii, Francji i Anglii: Monachium, Lipsk, Frankfurt, Hamburg, Berlin, Zurych, Paryż i Londyn. W styczniu 2001 roku odbył kolejne, uwieńczone sukcesem tournée po Niemczech wraz z Belgijską Orkiestrą Narodową pod dyrekcją Jurija Simonowa.
W maju 2001 Markus Groh debiutował z powodzeniem z Londyńską Orkiestrą Symfoniczną pod dyrekcją Kenta Nagano; z Nagano występował też na koncertach z Niemiecką Orkiestrą Symfoniczną w Filharmonii Berlińskiej, Kolońskiej oraz we frankfurckiej Jahrhunderthalle (2002). W czerwcu 2002 wyjeżdża na kolejne tournée po Japonii: w najważniejszych salach koncertowych tego kraju zagra z towarzyszeniem orkiestry; da też dziesięć koncertów z Akiko Suwanai.
Jest częstym gościem tak znanych międzynarodowych festiwali: Szlezwik-Holsztyn, Bad Kissingen, Rheingau, Schubertiade w Schwarzenbergu, Lockenhaus, Festiwal Muzyki Kameralnej w Oslo. Występuje z kwartetami Vogler i Petersen; z Albanem Gerhardtem, Leonidasem Kavakosem, Borisem Pergamenschikowem, Akiko Suwanai i Peterem Schreierem.
Wiele z jego koncertów zostało zarejestrowanych przez stacje radiowe i telewizyjne Niemiec, Hiszpanii, Belgii, Holandii, Francji, Japonii (NHK) i USA (NPR). Jego debiut płytowy to nagrania dzieła Brahmsa i Liszta dla René Gailly Productions i Harmonia Mundi.