La richesse des terres étant inégale, la coupe du bois et le flottage deviennent rapidement des activités économiques importantes. En 1862, le canton est officiellement érigé en municipalité. La même année, le bureau de poste est inauguré et prend le nom de la rivière Kazabazua, affluent de la rivière Gatineau. D’origine algonquine, ce nom est une déformation du mot kachibadjiwan, issu de kach (« caché ») et djiwan (« courant »), d’où l’expression « courant caché » ou « rivière souterraine ».

Le nom Kazabazua ne servira officiellement à désigner le village qu’à partir de 1935, malgré un usage déjà répandu parmi les habitants. Ce n’est qu’en 1976 qu’il deviendra le nom légal de la municipalité.

Depuis le village, en se tenant sur le pont qui enjambe la rivière, il est possible de voir le cours d’eau disparaître sous terre. La rivière réapparaît quelques dizaines de mètres en aval, s’écoule ensuite en rapides, puis passe sous un pont de pierre naturel. Au printemps, le débit impressionnant de la rivière la fait même passer par-dessus les ponts. Pour admirer les chutes, un petit chemin situé le long du garde-fou du pont sud permet, après une courte marche, d’observer les trombes d’eau qui se déversent en cascades.