Jaak Joala sündis 26. juunil 1950. aastal Viljandis ning alustas oma muusikukarjääri 17-aastase noorukina Olav Ehala popansamblis.

Hiljem lõi ta bassimängija ja lauljana kaasa populaarses Toivo Kurmeti ansamblis Virmalised, kus ta laulis sisse laulud "Taas on päev", "Naer", "Ainult sul", "Ma ei tea miks" ja "Üksinda".