De acordo com o Departamento de Toponímia da Câmara Municipal de Lisboa, este topónimo foi inspirado pela existência de palmeiras plantadas neste local. O crescimento da cidade ocasionou o surgimento deste largo, para onde se voltavam todas as frentes principais das novas construções entretanto concretizadas.

Por sugestão da Polícia Municipal, era necessária a criação de uma morada e de numeração de polícia. Considerando que os planos para este local seriam a aplicação de uma placa com uma palmeira, o vereador Manuel Joaquim dos Santos foi mais longe, tendo deliberado na reunião da Câmara no dia 16 de Novembro de 1916, que iram ser plantadas cinco palmeiras. Esta decisão, bem como a nomenclatura escolhida para este arruamento foram aprovadas por unanimidade pela Comissão Executiva Municipal.

Designado Largo da Palmeiras, por Edital do Governo Civil de 18 de Novembro de 1911, este arruamento resulta da confluência entre o Largo de Andaluz, Rua Luciano Cordeiro e Rua Sousa Martins.