Nascido em 1936 em Lagoa da Canoa, Alagoas, Brasil, Hermeto começou a tocar acordeão de oito botões aos oito anos, e desde então começou a trabalhar como músico tocando em bailes e festas. Aos 14 anos de idade saiu de casa e arranjou trabalho como acordeonista numa estação de rádio em Caruanu, Pernambuco. Daí foi para Recife onde começou a tocar piano. Na década de 50 foi para o Rio de Janeiro e depois para São Paulo, onde viveu durante vinte anos e estabeleceu uma sólida reputação como músico, compositor e arranjador. Em 1971, foi para os Estados Unidos, onde gravou o seu primeiro disco, uma colecção de peças orquestrais, interpretada por alguns dos melhores músicos americanos. Além disso, contribuiu também com dois temas para o disco "Live Evil" de Miles Davis. Hermeto foi também, nessa altura, a força motriz de alguns discos de Flora Purim e Airto Moreira, o disco “Airto & Friends” julgado pela crítica inglesa o melhor álbum do ano. Os seus criativos concertos de música influenciaram fortemente alguns dos grandes músicos contemporâneos. Esta influência foi admitida por Gil Evans, Chick Corea, Miles Davis, Ron Carter e muitos outros. O arranjo de Hermeto para a peça "Velório" em que 36 garrafas com água foram usadas para criar um estranho som, além de muitos outros efeitos, foi aclamado como uma obra-prima por Gil Evans. Esses novos sons puderam mais tarde inspirar Herbie Hancock na utilização de garrafas no seu disco "Headhunters". Entretanto regressado ao Brasil decidiu formar um grupo que lhe permitisse explorar totalmente os seus talentos como compositor e arranjador. O grupo passou por muitas modificações ao longo dos anos, mas desde 1981, Hermeto tem tocado com os mesmos músicos, ganhando um grande grau de coesão, criando uma série de ambientes musicais onde não só o talento de Hermeto como líder, mas também a personalidade de cada membro tem total liberdade para se mostrar e expandir. Entretanto, o seu talento como compositor para orquestra começou a ser merecidamente reconhecido. Em 1982, a RIAS Symphony Orchestra of Berlin tocou uma composição do Hermeto – "Berlin and its people" – trabalho inspirado pela sua estadia na cidade, escrito em menos de 30 horas. A peça teve uma estrondosa ovação no Horizon Festival desse ano.