1819. június 20-án született Kölnben, a helyi zsidó hitközség kántorának fiaként. Apja Párizsba vitte, hogy zenét tanulhasson a rendkívül tehetséges kis Jacob. 1833-ban a Conservatoire-on gordonkázni tanult és magán zeneszerzés-órákat vett. Eleinte a nagyhírű Opéra-Comique csellistájaként dolgozott, és hamar a párizsi szalonok érdekes és kedvelt figurájaként tartották számon az alacsony és csúnya, de annál tehetségesebb emberkét. Színházi vállalkozásba kezdett: saját társulatot szervezett, és ő lett a Bouffes-Parisiens igazgatója.

Első és rendkívüli sikerét az Orphée aux enfer vagyis az Orfeusz az alvilágban című vígoperával aratta 1858-ban. Ez a mű lett az operettek prototípusa, és ez alapozta meg a mester hírnevét és vagyonát.

Egyetlen operáját, a Hoffmann meséit már súlyos betegen komponálta, művét azonban már nem tudta befejezni, 1880-ban hunyt el Párizsban. Offenbach fia Ernest Guiraud-t kérte fel, hogy készítse el a partitúra előadásra alkalmas formáját. A Hoffmann meséit 1881-ben mutatták be a párizsi Opéra-Comique-ban.