Albahari je rođen 1948. godine u Peći. U Zagrebu je studirao englesku literaturu i jezik.
Prvu knjigu, zbirku priča “Porodično vreme”, objavio je 1973. godine u izdanju Matice srpske iz Novog Sada, a isti izdavač objavio je i njegov prvi roman, “Sudija Dimitrijević” /1978/.
Objavio je, između ostalih, romane “Cink”, “Snežni čovek”, “Mrak”, “Gec i Majer”, “Svetski putnik”, “Male priče”, “Propuštena prilika”, “Dijaspora i druge stvari”…
Zajedno sa Dušanom Petričićem objavio je knjigu za djecu “Ema i jež koji nestaje”, a sa Žarkom Radakovićem “Knjigu o muzici”.
Dobitnik je Andrićeve nagrade za zbirku priča “Opis smrti”, a njegov roman “Mamac” dobio je Ninovu nagradu za najbolji roman u 1996. godini, kao i nagradu Narodne biblioteke Srbije, Balkaniku i Most-Berlin.
Knjiga priča “Svake noći u dugom gradu” dobila je Vitalovu nagradu za knjigu godine.
U periodu između 1973. i 1994. godine radio je u redakcijama više beogradskih i novosadskih časopisa i izdavačkih kuća – “Vidici”, “Književna reč”, “Pismo”, “Kulture Istoka”, “Politika”.
Knjige su mu prevedene na 21 jezik.
Preveo je veliki broj knjiga, priča, pjesama i eseja mnogih američkih, britanskih, australijskih i kanadskih pisaca, uključujući Sola Beloua, Vladimira Nabokova, Margaret Etvud, Isaka Baševisa Singera i Tomasa Pinčona. Preveo je i dramske tekstove Sema Šeparda, Keril Čerčil i DŽejsona Šermana.
Član je Srpske akademije nauka i umjetnosti, srpskog PEN centra i Srpskog književnog društva. Od jeseni 1994. godine do 2012. godine živio je u Kalgariju, u Kanadi, a od 2012. u Beogradu, prenosi SRNA.
Vrijeme i mjesto sahrane biće naknadno saopšteni.