Vodní dýmka se poprvé pravděpodobně objevila v Indii, a to před více než 400 lety. Původně sloužila ke kouření hašiše. Šlo o velmi jednoduchý model, který se skládal z vydlabaného kokosového ořechu a zasunutého dutého stébla trávy - princip byl však v podstatě stejný jako u dnešních dýmek. Z Indie se dýmka postupem času rozšířila do Egypta a Persie, kde byl kokosový ořech nahrazen keramikou a brčko hadicí. Po objevu tabáku byla navíc k nádobě přidána bronzová miska (korunka).

Svou současnou podobu získala dýmka až v Turecku za vlády sultána Murada IV. (1623-1640), kdy byla dýmka na vrcholu své popularity, a kdy se stala neodmyslitelnou součástí tehdejších kaváren. Od té doby se už příliš nezměnila.

Kouzlu tichého bublání vody, jemné chuti melasového tabáku, voňavého dýmu a pocitu pospolitosti postupně podlehl nejen islámský svět. Kolováním šlauchu, kterým se z dýmky nasává kouř, vzniká atmosféra, která smývá jakékoliv generační rozdíly a vnáší do kruhu kuřáků jakési příjemné pouto.