Lemezei a zongora, gitár, bőgő felállású The Three Strings zenekarával, melyben Ray Crawford gitáros mellett bőgőn Eddie Calhoun (1950–52), és Richard Davis (1953–54) után Israel Crosby játszott, 1951-től jelentek meg az Okeh kiadónál. A trió hangzása jelentősen megváltozott, amikor 1957-ben Crawford helyére Vernel Fournier, azaz a gitáros helyére nem újabb húros, hanem dobos került.

A chicagói Pershing Hotel házi zenekaraként a trió kiadta az első igazán nagy sikert hozó, mérföldkőnek számító „At the Pershing: But Not for Me” című élő albumát, amely 108 hétig maradt a Billboard Top 10 között, és a jazztörténet egyik legnépszerűbb és legnagyobb hatású lemezévé vált.

A lemez sikere anyagi biztonságot is hozott, Jamal Észak-Afrikába indult ősei szülőföldjét felfedezni, majd hazatérve éttermet és klubot nyitott Chicagóban. Az üzleti életben azonban nem vált sikeressé, 

1962-ben a The Three Strings feloszlott, Jamal pedig New Yorkba költözött, és 32 évesen egy időre visszavonult. Két év múlva aztán folytatta a turnézást és a felvételeket, és a jazz-rock térhódításáig kizárólag akusztikus zongorán játszott, ebből a korszakából egyik legjelentősebb az Impulse! kiadónál megjelent „The Awakening” volt.

A fúziós dominancia éveiben elektromos zongorán is játszott, de ezek a lemezei kellemes, friss hangzásuk ellenére sem bírtak olyan jelentőséggel, mint az akusztikusak. Két film, a világsikert aratott M*A*S*H és a nálunk kevéssé ismert „The Bridges of Madison County” zenéje fűződik nevéhez.

Miles Davis barátságát is élvezhette, Jamal "New Rhumba" című szerzeménye felkerült Davis „Miles Ahead” című albumára, és aki 1989-ben megjelent Miles című önéletrajzában is lerótta tiszteletét Jamal előtt: "kiütött a térről alkotott fogalmával, az érintés könnyedségével, a visszafogottságával, valamint azzal, ahogyan hangokat fogalmazza."

Emlékezzünk rá az 1971-ben felvett párizsi koncertjének meghallgatásával!