Мост был построен позже, чем проложена первоначальная трасса Рублёвского шоссе (шоссе построено для обслуживания водопровода в 1903 году). Первоначально назывался Рублёвским, как и шоссе. С 1960 года — в черте Москвы. В 1961 году стал называться Старым Рублёвским в связи с постройкой в 350 м выше по течению Нового Рублёвского моста на трассе Минской улицы. После прокладки Минской улицы сквозное движение по Рублёвскому шоссе прекратилось из-за закрытия переезда через железнодорожные пути Киевского направления, но мост продолжал использоваться — через него восточный участок Рублёвского шоссе (позже ставший улицей Улофа Пальме) соединялся с Минской улицей.