Vodná fajka sa skladá zo štyroch základných častí:

1. váza vodnej fajky
2. telo vodnej fajky (srdce)
3. korunka
4. hadica

Jednotlivé diely vodnej fajky sa zostavia dohromady a s pomocou sady gumových tesnení by mala vodná fajka vo všetkých spojoch dokonale tesniť.

V nádobe zostavenej fajky vzniká pri nasávaní z hadice podtlak a v dôsledku toho dochádza k nasávaniu vzduchu z korunky cez uhlíky a tabak, ktorý je umiestnený pod alobalom vo vnútri korunky. Takto nasatý dym zo spaľujúceho tabaku sa “filtruje” cez studenú vodu, vďaka čomu dochádza k chladeniu vdychovaného dymu a čiastočnému odfiltrovaniu nežiadúceho popolu.

V dnešnej dobe má skoro každá vodná fajka dole na tele fajky malý poistný ventil. Mechanizmus ventilu je jednoduchý. Pracuje s jednou železnou guličkou, ktorá ventil uzavrie pri naťahovaní, naopak pri prefúknutí sa zdvihne a ventil otvorí. Vďaka tomu je možné vyfúknuť prebytočný dym z vázy. Ak chvíľu nefajčíte, je vhodné najprv stuchnutý dym vo vnútri vázy takto vyfúknuť a potom začať fajčiť znovu (viac informácií nájdete v časti tipy a triky s vodnou fajkou).