Ludwig Mies van der Rohe nació el 27 de marzo de 1886 en la ciudad de Aquisgrán (Alemania), hijo de Michael y Amalie (Rohe), como cuarto hijo de una familia católica. En 1900 empezó a trabajar en el taller de escultura de piedras de su padre, que era cantero y en 1905 se trasladó a Berlín para colaborar en el estudio de arquitectura de Bruno Paul.
En 1907 realiza su primera obra, la casa Riehl. De 1908 a 1911 trabajó en el despacho de Peter Behrens, del cual, Mies desarrolló un estilo arquitectónico basado en técnicas estructurales avanzadas y en el clasicismo prusiano. También realizó diseños innovadores con acero y vidrio. En 1911 dirigió la construcción de la embajada alemana en San Petersburgo. En ese mismo año, se mudó a La Haya y planificó una casa de campo para el matrimonio Kröller-Müller.
Inicialmente se orientó hacia la arquitectura neoclásica, pero un viaje a los Países Bajos en 1912 le llevó a cambiar sus intereses, a raíz del descubrimiento de la obra de H. P. Berlage.
Durante este período publicó la revista G, en colaboración con Hans Richter, y se relacionó con algunos de los artistas más avanzados del momento, como Tristán Tzara o el Lissitzki. A partir de 1926 llevó ya a cabo obras de cierta envergadura, levantó el monumento a Karl Liebknecht y Rosa Luxemburg (destruido por los nazis), un simple muro de ladrillo con dos paneles en voladizo.
A raíz de estos y algunos otros proyectos, se convirtió en un arquitecto de prestigio y empezó a recibir encargos oficiales.
De 1927 a 1930 construyó una villa en Krefold para el fabricante de sedas Hermann Lange,y en 1929, Mies recibe el encargo de proyectar el Pabellón nacional de Alemania ,para la Exposición Internacional de Barcelona.
La evolución de los acontecimientos en Alemania le obligó a emigrar a Estados Unidos en 1938, donde fue nombrado director de la facultad de arquitectura del Illinois Technology Institute de Chicago, que posteriormente remodelaría para que fuera dedicado a la enseñanza y a la investigación, y que se concluyeron a lo largo de los años 50. En 1940 conoce a Lora Marx, que lo acompañaría hasta su muerte.
En 1944 se convierte en ciudadano de los Estados Unidos. De 1945 a 1950 construye la casa Farnsworth en Illinois.
Entre los años 1948 y 1951 hace realidad su sueño de construir un rascacielos de vidrio con las dos torres del Lake Shore Drive Apartments de Chicago, y, más tarde, el Commonwealth Promenade Apartments, también en la misma ciudad (1953-1956).
De 1962 a 1968 construye en Berlín la Galería Nacional. Se trata de un edificio dedicado a exposiciones de obras de arte, formado por una gran sala cuadrada construida completamente en cristal y acero y situada sobre una extensa terraza de losas de granito.
El 17 de agosto de 1969 muere en Chicago dejando como legado unos nuevos cánones para la arquitectura, que bajo sus tan divulgados lemas «Less is more» («Menos es más») y «God is in the details» («Dios está en los detalles»), que lo considera como uno de los maestros más importantes de la arquitectura moderna.