José Ramalho Neto nasceu em Brejo da Cruz, Paraíba, no dia 3 de outubro de 1944. Filho de Antônio De Pádua Ramalho, um seresteiro, e de Estelita Torres Ramalho, professora primária. Com 2 anos ficou órfão de pai, passando a ser criados pelos avós, José e Soledade Alves Ramalho. Em 1960 mudou-se com a família para a cidade de João Pessoa. Estudou nos melhores colégios da cidade e iniciou o curso de medicina.

Zé Ramalho começou sua carreira artística escrevendo verso de cordel. Cantava em conjuntos inspirados na Jovem Guarda e no Rock inglês. Em 1974 teve uma música de sua autoria incluída na trilha sonora do filme: Nordeste, Cordel, Repente e Canção, de Tania Quaresma. Em 1975 lançou o disco “Paebiru”, em parceria com Lula Cortes. Logo estava tocando na banda de Alceu Valença. Nesse mesmo ano, participou do festival “Abertura”, quando cantou com Alceu Valença a música “Vou Danado Pra Catende”.

Em 1976 mudou-se para o Rio de Janeiro. Em 1977 gravou seu primeiro álbum solo, intitulado “Zé Ramalho”, que incluía a música Avôhai, composta em homenagem a seu avô, como também “Chão de Giz” e “Bicho de Sete Cabeças”. Seu trabalho foi elogiado pela crítica e fez sucesso de vendas. Zé Ramalho ganhou o prêmio de Melhor Cantor Revelação da Associação Brasileira de Produtores de Discos.

Em 1979, Zé Ramalho lançou seu segundo disco solo, que fez grande sucesso com as músicas “Admirável Gado Novo” e “Frevo Mulher”. Em 1980 mudou-se para Fortaleza, onde escreveu o livro de poesias “Carne de Pescoço”. Em seguida lançou os álbuns “Terceira Lâmina” (1981), “Força Verde” (1982), “Orquídia Negra” (1983).