Putopisac Evlija Čelebija piše kako je 1660. godine u Sarajevu bilo čak 300 sebilja
Riječ sebilj arapskog je porijekla, a u prijevodu znači “zgrada na putu u kojoj ima vode”, a i sam koncept ove građevine potiče iz arapskog svijeta.
U sebilju je svojevremeno radio sebiljdžija, državni službenik koji je bez naknade dijelio vodu žednim prolaznicima.
Trend gradnje sebilja na ovim prostorima uveli su Osmanlije.
Nažalost, u katastrofalnom požaru koji je 1697. zahvatio grad, stradali su svi sebilji. Eugen Savojski je u svom rušilačkom pohodu na “piku” imao i sebilje, pa je tako grad u tom periodu ostao bez česmi.
Više od 50 godina kasnije, hadži Mehmed-paša Kukavica odlučio je iz svog džepa izgraditi i uvakufiti sebilj na Baščaršiji, učinivši ga jedinim zatvorenim sebiljem u gradu.
Austrougari su Mehmed-pašin sebilj iz nepoznatih razloga odlučili srušiti 1891. godine, pa su nakon brojnih inicijativa građana bili prisiljeni obnoviti sebilj na nešto drukčiji način.
To je danas i jedini preostali sebilj u gradu, izgrađen je 1913. godine. Do danas je ostao jedan od simbola grada, te veoma važan arhitektonski spomenik.
Sebilj na Baščaršiji sagrađen je od kamena, drveta i bakra.
Prva obnova sebilja rađena je 1981. a potom i jedna manja intervencija pred Zimske olimpijske igre u Sarajevu 1984. godine.
Tokom agresije na BiH sebilj nije ostao pošteđen. Oštećen je gelerima 1992. godine prilikom granatiranja grada, ali je popravljen nedugo nakon okončanja rata 1997. godine, kad su popravljeni mušepci i drvena konstrukcija.
Najpomnija restauracija obavljena je 2006. godine, kad je zamijenjen bakarni pokrov, saniran odvod i dovod vode, te urađena zaštita drveta.