Mies van der Rohe empezó su carrera profesional colaborando en la empresa familiar de mármoles. Al mudarse a Berlín trabajó para la firma de interiorismo del arquitecto Bruno Paul, aunque su carrera arquitectónica empezó realmente al entrar como aprendiz en el estudio de Peter Behrens (1908-1912), un referente de la vanguardia arquitectónica de su tiempo. Muy pronto destacó por su talento y empezó a tener encargos propios.

Tras la Primera Guerra Mundial se convirtió en un miembro activo de la vanguardia berlinesa. Sus investigaciones y proyectos sin cliente, (como el proyecto de rascacielos para la Friedrichstraße) demuestran su interés por crear una arquitectura rompedora y tecnológicamente innovadora, que materializa en el Pabellón de Barcelona (1929) y en la casa Tugendhat (1930, Brno, actual República Checa).

En 1925 conoce a Lilly Reich, directora de la Deutscher Werkbund, que será su pareja sentimental y profesional hasta 1938, año en que Mies van der Rohe emigra a Chicago. 

En Estados Unidos el trabajo de Mies van der Rohe será elogiado por su precisión estructural y su estética, basada en la claridad, el dominio y la elegancia en el uso de los materiales industriales. Su reputación llegará a convertirle en una figura pública, haciendo famosa la máxima “less is more”, (“menos es más”), que ha quedado para siempre ligada a su figura. Sus obras más conocidas de este período son la casa Farnsworth (1946-1958, Plano, Illinois), el Crown Hall (1954-1956, Illinois Institute of Tecnology, Chicago, Illinois) o el rascacielos Seagram (1954-1958, Nueva York).