Orkiestra powstała w 1903 roku. Została ufundowana przez członków Towarzystwa Koncertowego, będącego w istocie pierwszą orkiestrą działającą w Hiszpanii, od roku 1866.
Orquesta Sinfonica de Madrid zaprezentowała się publiczności po raz pierwszy 7 lutego 1904 roku w Teatrze Królewskim w Madrycie. Rok później szefem artystycznym orkiestry został Enrique Fernandez Arbos. Kierował orkiestrą przez trzy dekady; w tym czasie z orkiestrą współpracowały wielkie osobistości świata muzycznego, m.in. Richard Strauss, Igor Strawiński. Pod dyrekcją Arbosa zarysowały się główne cele działania orkiestry - odnowienie repertuaru, popularyzacja muzyki i muzyków hiszpańskich oraz zdobywanie szerokich rzesz słuchaczy. Kultywowanie tych zasad stworzyło w ciągu stulecia solidne fundamenty tego zespołu. Po śmierci Abrosa orkiestrę prowadzili dyrygenci hiszpańscy - Conrado del Campo, Jose Maria Franco, Enrique Jorda i Vincente Spiteri. W 1981 roku w porozumieniu z Ministerstwem Kultury, poza dotychczasowym działaniem na rzecz Teatru Operetkowego, orkiestra położyła główny nacisk na muzykę symfoniczną. Wybitni dyrygenci tego okresu to, poza muzykami hiszpańskimi, również tacy artyści jak: Peter Maag, Pinchas Steinberg, Kurt Sanderling, Krzysztof Penderecki i Mścisław Rostropowicz. W 1993 roku krajowe centrum kultury Comunidad de Madrid wyróżniło OSM nagrodą "krzewiciela muzyki". Rok później dziewięćdziesięciolecie istnienia orkiestry uhonorowano serią wydarzeń artystycznych, nagrań i publikacji, m.in. ukazała się "La Orquesta Sinfonica de Madrid - dziewięćdziesięcioletnia historia" autorstwa Carlosa Gomeza Armata i Joaquina Turina (wyd.Alianza Editorial, 1994).
Wśród płyt nagranych przez OSM na uwagę zasługuje wiele pozycji z repertuaru operetkowego i hiszpańskiej muzyki operowej (Auvidis), nagrania wszystkich symfonii Mendelssohna pod dyrekcją Petera Maaga (Arts) i pierwsze w świecie nagrania opery Merlin Isaaca Albeniza pod dyrekcją Jose de Eusebio, z udziałem m.in. Carlosa Alvareza i Placido Domingo (Decca). Od 1997 roku Orquesta Sinfonica de Madrid uczestniczy w muzycznych spektaklach Teatru Królewskiego. Występy OSM wzbudzają rosnące zainteresowanie szerokiej publiczności, profesjonalistów i krytyków. Mianem triumfu można określić wystawienie Parsifala Richarda Wagnera w sezonie 2000-2001, pod dyrekcją Garcia Navarro.
W roku 1999 przy orkiestrze utworzono chór, który debiutował w Teatrze Królewskim.
W tym samym roku OSM tworzy stałą dyrekcję artystyczną i przywraca stanowisko dyrektora generalnego. Funkcję tę akceptuje Garcia Navarro. Orkiestra tworzy również funkcję dyrektora honorowego - przyjmuje ją Kurt Sanderling, oraz kompozytora-rezydenta - przyjął ją Cristobald Halffter. W roku 2000 przy OSM utworzono "Orquesta-Escuela", która miała być i jest do tej pory kuźnią młodych talentów. Obecnie i zgodnie z kontraktem do roku 2009 Orquesta Sinfonica de Madrid oraz jej chór są "flagowymi" zespołami Teatru Królewskiego. W 2002 roku stanowisko dyrektora generalnego orkiestry przyjął Jesus Lopez Cobos.