A origem do Rudge Ramos remonta ao tempo da propriedade dos monges beneditinos (séc. XVIII) que se situava na área do atual bairro. Haviam ainda na área alguns sítios, como o pertencente à família Camargo.
O local, na época conhecido como Bairro dos Garotos, era cortado através do antigo Caminho do Mar, por onde passavam os tropeiros que transitavam entre o planalto paulista e o Porto de Santos.
Na área do bairro chegou a existir um rancho para o descanso dos viajantes, construído em 1831.
Por volta de 1870, a velha fazenda dos monges foi desapropriada através do Império para dar lugar às linhas coloniais onde se situariam os imigrantes que chegavam. Várias famílias de ascendência italiana desenvolveram atividades vinculadas à lavoura, entre elas a dos irmãos Piagentini, que ergueria, com início de 1891, o antigo edifício da Igreja São João Baptista, demolida em 1962 para dar lugar à atual construção.
Os primeiros loteamentos com características urbanas se iniciaram na década de 1920, impulsionados através da reforma do Caminho do Mar, obra executada sob o comando de Arthur Rudge Ramos, que subsequentemente daria nome ao bairro.
O processo de industrialização ocorrido no município com início dos anos 1950, e a chegada de importantes empresas como a Termomecanica e a Martini Rossi, aproveitando a localização às margens da Anchieta e a proximidade da capital, ampliaram o desenvolvimento do bairro, fazendo com que o Rudge Ramos adquirisse as feições atuais.