Počeo je kao talentovani mladić na terenima sarajevskog Željezničara, a karijera ga je kasnije odvela u Nizozemsku i Francusku, gdje je nastupao za nekoliko klubova. Međutim, veći trag ostavio je kao trener vodio je brojne timove i reprezentacije, od Partizana do Panathinaikosa, a najveću međunarodnu reputaciju stekao je na klupi reprezentacija Jugoslavije i Japana.
Posebno se pamti njegova uloga iz 2011. godine, kada je preuzeo vođstvo nad komitetom koji je FIFA formirala kako bi stabilizirala Fudbalski savez Bosne i Hercegovine. Zahvaljujući njegovom angažmanu, BiH je izbjegla dužu izolaciju iz svjetskog fudbala, što je kasnije otvorilo vrata historijskom plasmanu na Mundijal u Brazilu 2014.
Njegov doprinos sportu priznat je širom svijeta. U glavnom gradu Bosne i Hercegovine jedna ulica sada nosi njegovo ime, dok na stadionu Grbavica postoji spomen-ploča posvećena njegovim riječima koje su odjeknule kada je napustio selektorsku funkciju Jugoslavije.
I u Japanu mu se odaje počast — organizovana je utakmica njemu u čast, prisustvovalo je deset hiljada ljudi, a Savez ga je najavio kao budućeg člana njihove Kuće slavnih. Tamošnji filmski radnici snimili su i dokumentarac o njegovom životu.
Austrijski klub Šturm, gdje je Osim proveo mnogo godina, odlučio je da trg ispred stadiona dobije njegovo ime. Također, 2023. godine proglašen je za najuspješnijeg trenera u historiji austrijske Bundeslige.