Строительство железной дороги от Москвы к Смоленску, а затем в направлении Минска и Варшавы, началось во второй половине 1860-х годов. Дорога называлась Московско-Смоленской. Строительство вокзала, получившего название Смоленский, началось в конце апреля 1869 года; он стал шестым по счёту в Москве. Торжественное открытие Московско-Смоленской железной дороги состоялось 19 сентября 1870 года.

В ноябре 1871 года, после продления дороги до Бреста, вокзал стал называться Брестским.

В начале 1890-х годов движение стало двухпутным, а платформа отправления была всего одна. К реконструкции вокзала, уже не вмещавшего в себя пассажиров, приступили лишь в 1907 году. 15 мая 1910 года открыли правое крыло нового вокзала, 26 февраля 1912 года — левое.

Автором проекта был архитектор Иван Струков. 4 мая 1912 года железная дорога была переименована в Александровскую, вокзал стал называться Александровским в честь императора Александра Павловича.

В августе 1922 года Александровская и Московско-Балтийская дороги были объединены в Московско-Белорусско-Балтийскую, поэтому вокзал был переименован в Белорусско-Балтийский. В мае 1936 года, после очередной реорганизации железных дорог, вокзал получил своё нынешнее название — Белорусский[5]. В 1938 году в правом крыле вокзала запустили станцию метро «Белорусская-радиальная». В 1976 году в дополнение к существующему построено новое здание вокзала.

27 сентября 2007 года компания «Аэроэкспресс» начала реконструкцию для организации железнодорожного сообщения с аэропортом «Шереметьево». Проект реконструкции части вокзала оценивался в 7,7 млн $ и предполагал строительство нового терминала, который стал одним из центральных звеньев в железнодорожном сообщении между Москвой и аэропортом.

Новый аэровокзал расположился в четвёртом зале Белорусского вокзала и занял площадь 600 м². Здесь пассажиры, улетающие из Шереметьево, могут пройти регистрацию на авиарейсы, используя киоски самостоятельной регистрации. Регистрация багажа в городском терминале была отменена 1 декабря 2010 года в связи с резким увеличением количества пассажиров. Терминал открылся 27 августа 2009 года.

В июне 2008 года завершено строительство железнодорожного терминального комплекса в Шереметьево и пущен новый по своим техническим и дизайнерским характеристикам подвижной состав: задействованы новые электропоезда ЭД4МКМ-Аэро производства ЗАО «Трансмашхолдинг». Железнодорожные экспрессы в Шереметьево отправляются с Белорусского вокзала и доставляют пассажиров до станции Аэропорт Шереметьево.

Входит в состав Московских центральных диаметров, линия МЦД-1.

С 21 ноября 2019 года в связи с открытием МЦД-1 транзитное движение с Курского на Смоленское направление приостановлено.

В 2020 году начато строительство соединительной железнодорожной ветки между Киевским и Смоленским направлениями МЖД. В сентябре 2023 года планируется полностью завершить строительство соединительной ветки[10] и реконструкцию платформ вокзала, после чего вокзал будет входить как в состав МЦД-1, так и в состав МЦД-4.