Esmeralda quando Vila denominava-se São João velho, São João por ser o Santo padroeiro, e velho por ser o sobrenome do doador do terreno da praça – Antônio Joaquim Velho.
A primeira denominação desta região foi fazenda São João. O povoado nasceu ao redor da igreja São João Batista. E estas terras eram de propriedade da família Velho, sendo consequência da denominação do povoado Capela São João Velho. Mais tarde passou a chamar-se Vila Esmeralda, pois o médico que atendia a localidade (por volta do ano de 1900), Dr. Antônio Dias Fernandes, quando atendia aos doentes sempre dizia:

“Quando um dia mudarem o nome de São João Velho, troquem por Esmeralda, devido a beleza de seus campos ondulados, suas matas abundantes e seus pinheiros verdejantes e também porque é esta a pedra preciosa verde, que é a esmeralda de meu anel”.

Durante a administração do sr. Irineu Nery da Luz (1973-1976), na Praça 27 de novembro (hoje Praça Dr. Orly Labarthe Alves), foi erguido um símbolo em homenagem ao Dr. Antônio Dias Fernandes, em forma de anel estilizado.

Esmeralda foi emancipada e instituída na data de 27 de novembro de 1963, pela lei de criação nº 4.616, onde até então fazia parte do 5º distrito do município de Vacaria. A primeira eleição realizou-se em 29 de março de 1964.

A instalação do município deu-se no dia 08 de abril de 1964.

Em Esmeralda as tradições gaúchas são cultuadas e valorizadas, temos orgulho de ter sido aqui realizado o primeiro tiro de laço, que deu origem aos rodeios de hoje. O senhor Alfredo José dos Santos organizou a primeira invernada de laçadores “Rincão das Violetas”, isto propiciou o surgimento de outras invernadas no nosso município. A partir deste marco, em 16 de janeiro de 1966 foi fundado o primeiro CTG, o “Pioneiros do Laço”. No 47º Congresso Tradicionalista Gaúcho, dia 12 de janeiro de 2002, depois de defendida a tese da origem do Tiro de Laço, ficou definida Esmeralda como o berço desse esporte. Em 2008 foi inaugurado o Parque de Rodeios que leva o nome “Alfredo José dos Santos” e reverencia os “Pioneiros do Laço”.

Nossa terra também é conhecida como "Terra de José Mendes", este ilustre filho adotivo de Esmeralda, que ficou conhecido nacional e internacionalmente por suas músicas como Pàra Pedro, Não Aperta Aparício e Andarengo entre outras, e seus 03 filmes longa-metragens, onde era o artista principal. Em novembro de 2004 foi inaugurado o Memorial José Mendes em sua homenagem, na Capela Santa Terezinha, durante as comemorações do II Esmeralda Canta Zé Mendes, oportunidade em que foi transladado os restos mortais do artista. Hoje o Memorial é um ponto turístico do município e é visitado por turistas de todo o Brasil e até do exterior.

Outro fator histórico importante é marcado pela fé, o Santuário do Senhor Bom Jesus, que abriga uma "milagrosa" Imagem do Senhor Bom Jesus, trazida pra Esmeralda pelo Senhor Bernardo dos Reis, na época da Guerra do Paraguay, por volta de 1870, o qual prometeu que se salvasse da guerra, retornaria para Esmeralda trazendo a imagem, que por ser de madeira e muito pesada, foram serradas as pernas e transportado apenas o busto. Construiu-se um oratório no local, o qual começou a receber muitas pessoas que vinham fazer suas promessas. Desde o ano de 1977, no dia 06 de agosto realiza-se no local uma grande Romaria.