Kao mladić bio je šegrt kod jednog bravara, a neko vrijeme nastupao je i u cirkusu kao umjetnik na trapezu, što će mu pomoći u budućoj karijeri. Od 1892. nastupao je u New Yorku kao mađioničar. Dvije godine poslije oženio se Wilhelminom Rahner (umjetničko ime Beatrice Houdini), koja mu je otad bila asistentica u nastupima. Svjetsku slavu Houdini stiče spektakularnim nastupima u kojima se spašavao iz nemogućih situacija (npr. vezan lancima i zatvoren u bačvu te bačen u rijeku, uspješno se oslobađao i izranjao na površinu). Svoj najpoznatiji podvig izveo je u avgustu 1926. kad je proveo 91 minutu zarobljen pod vodom. Naime, Houdini se zatvorio u 320 kilograma težak željezni kovčeg i obavio vlastiti pokop u bazenu hotela Shelton u New Yorku. Zračno nepropustan kovčeg spušten je u vodu, a Houdini je svakih nekoliko minuta pritisnuo gumb kojim je obavijestio svoje pomoćnike da je sve u redu (putem telefonske žice). Kasnije je opisao kako mu je u kovčegu bilo strašno vruće, da su mu se počela priviđati žuta svjetla, te da se čitavo vrijeme morao boriti da ostane budan. Mnogobrojni njegovi nastupi snimljeni su u kratkim filmovima.
Houdini se protivio spiritizmu i magiji u kojima se pozivalo na nadnaravne moći, pa je protiv toga objavio više knjiga: Čudotvorci i njihove metode, Mađioničar među duhovima i druge. Također je pisao o historiji mađioničarstva u knjizi Raskrinkavanje Robert-Houdina, u kojoj je prikazao rad svoga uzora, francuskog mađioničara Jean-Eugènea Robert-Houdina, po kojem je izabrao i svoje umjetničko ime.
Harry Houdini umro je već 31. oktobra 1926. od prsnuća slijepog crijeva nakon zadobivenog udarca u stomak. Postoje mnoge kontroverze oko njegove smrti, čak i sumnje da se radilo o naručenom ubistvu.