Addysgwyd ef yn Ysgol Uwchradd Howard Gardens, Caerdydd a'r London School of Economics lle astudiodd y gyfraith. Gwasanaethodd yn yr Awyrlu Brenhinol yn ystod yr Ail Ryfel Byd. Roedd yn Cairo ym 1944 pan aeth rhai o'r milwyr Prydeinig a oedd yno ar y pryd ati i sefydlu ‘Senedd y Lluoedd Arfog’ lle dadleuent ynghylch natur y gymdeithas yr hoffent ei weld yn y byd ar ôl y rhyfel. Gweithiodd fel newyddiadurwr yn yr Eidal ar ôl y rhyfel, ac yna daeth yn gyfreithiwr. Ym 1951 sefydlodd ei gwmni cyfreithiol ei hun, sef Leo Abse a Cohen, o fewn dinas Caerdydd. Tyfodd i fod y mwyaf yn y ddinas. Yn fuan daeth i enwogrwydd fel y cyfreithiwr mwyaf effeithiol ar ran y glowyr, ac, ym 1986, Abse oedd y cyfreithiwr cyntaf i fwynhau mynediad i'r Uchel Lys.

Ymunodd Leo Abse â'r Blaid Lafur ym 1934. Gweithiodd fel cenhadwr ar gyfer yr achos gweriniaethol yn ystod y Rhyfel Cartref yn Sbaen. Etholwyd ef hefyd yn Gadeirydd ar Blaid Lafur Caerdydd am ddwy flynedd o 1951 hyd at 1953. Roedd yn aelod Llafur o Gyngor Dinas Caerdydd, 1954-59. Yn y swyddi hyn roedd yn gyfrifol am greu cryn dipyn o embaras i James Callaghan a George Thomas a gynrychiolai etholaethau o fewn Caerdydd yn y senedd.

Ymladdodd Abse ei hun etholaeth Gogledd Caerdydd yn etholiad cyffredinol 1955, sedd hollol ddiogel i'r Ceidwadwyr ar y pryd, ond, yn unol â'r disgwyl, pleidlais bitw a gafodd yno. Pan ddyrchafwyd D. G. West i iarllaeth, gwasanaethodd Leo Abse fel AS Llafur dros etholaeth Pontypŵl o is-etholiad ym 1958 hyd at 1983, ac yna dros Dorfaen nes iddo ymddeol o'r senedd ym 1987. Yn is-etholiad 1958 enillodd Abse fwyafrif sylweddol iawn gan ennill rhyw 20,000 o bleidleisiau yn erbyn 6,273 i'r Ceidwadwr a 2,927 i'r Rhyddfrydwr. Bu ei fwyafrifoedd yn gyson yn anferthol ar ôl hynny hyd nes iddo ymddeol o'r senedd.

Ef oedd cadeirydd y Blaid Seneddol Gymreig o 1976 hyd at 1987, a gwasanaethodd fel cadeirydd y Grwp Llafur Seneddol Cymreig. Bu hefyd yn aelod tymor-hir o gyngor ymgynghorol Cymdeithas Dyneiddwyr Prydeinig. Roedd yn ymgyrchydd amlwg yn erbyn dienyddio ym 1969 ac yn un o'r amlycaf o'r pum Aelod Seneddol Llafur a frwydrodd yn ddygn yn erbyn datganoli yn ystod y cyfnod cyn y bleidlais ar 1 Mawrth 1979. Ni ddaliodd erioed unrhyw swydd o fewn y llywodraeth; nid oedd yn dymuno hynny chwaith.

Roedd Abse am gyfnod byr yn Gadeirydd ar y Pwyllgor Dethol ar Faterion Cymreig pan sefydlwyd ef am y tro cyntaf erioed ym 1979, ond dewisodd ymddiswyddo yn Nhachwedd 1981. Un o'r rhesymau paham y gwrthwynebai datganoli oedd ei gred y byddai rhai yng Nghymru - ‘eithafwyr’ oedd ei enw arnynt - yn awyddus i'w ddefnyddio er mwyn hybu'r iaith Gymraeg. Gwrthwynebodd yn arbennig gynigion i gael reithgorau llys o Gymry Cymraeg yn unig, a disgrifiodd wasanaeth teledu drwy gyfrwng y Gymraeg fel ‘ffars gostus’ a ‘phot mêl’.

O fewn Tŷ'r Cyffredin enillodd Abse enw iddo'i hun am annibyniaeth barn. Gwnâi bwynt o wisgo'n lliwgar ar ddiwrnod y Gyllideb, a hoffai i'w areithiau gynnwys cyfeiriadau at seicoleg Sigmund Freud. Er ei bod yn debygol fod ganddo'r gallu i ddringo i swyddi bras o fewn y llywodraeth, ar y meinciau cefn yr arhosodd. Bu hyn, a'r ffaith fod ganddo sedd hollol ddiogel, yn gyfrifol am ei ryddhau o'r cyfyngiadau a rwystrodd y rhan fwyaf o aelodau seneddol eraill rhag taclo pynciau dadleuol.

Ni fu unrhyw aelod ar y meinciau cefn yn fwy llwyddiannus yn cael mesurau'r Aelodau Preifat ar y llyfr statud. Yn ystod gyrfa seneddol nodedig o hir a lliwgar fel AS Llafur ar y meinciau cefn, gweithredodd naill ai fel noddwr neu gyd-noddwr rhychwant eang o fesurau aelod preifat ar ysgaru, gwrywgydiaeth, cynllunio teulu, cyfreithloniad, iawndal gweddwon, anafiadau diwydiannol, anabliadau cynhenid, a phlant. Ei Fesur Troseddau Rhywiol, a dderbyniodd y sêl bendith frenhinol yng Ngorffennaf 1967, sef degawd llawn ar ôl cyhoeddi Adroddiad Wolfenden, a fu'n gyfrifol am ddad-droseddu'n derfynol weithgareddau gwrywgydiol rhwng oedolion a oedd yn cytuno ac yn fodlon. Bu hefyd yn ddylanwad pwysig tu ôl i basio Deddf Diwygio Ysgaru 1969 a fu'n gyfrifol am wneud y cyfreithiau ar ysgaru yn fwy rhyddfrydol. Mae Abse yn bendant yn haeddu cael ei goffáu fel un o ddiwygwyr cymdeithasol mwyaf arwyddocaol yr ugeinfed ganrif ym Mhrydain.

Ychwanegodd Abse at ei enw am gymryd agweddau anghyffredin drwy ddadlau'n bwerus y dylid tynnu milwyr Prydeinig allan o Ogledd Iwerddon. Gwrthwynebai rym niwclear ac arfau niwclear, ac roedd yn hallt ei feirniadaeth o Margaret Thatcher gan iddi fynnu y dylai Yr Ariannin ildio'n ddiamod dros achos Ynysoedd y Falklands. Fodd bynnag, roedd yn gefnogol i aelodaeth Brydeinig o'r Cymunedau Ewropeaidd. Ar yr un pryd daliodd nifer fawr o swyddi cyhoeddus, gan gynnwys gwasanaethu fel aelod o lys Amgueddfa Genedlaethol Cymru ac o lys Prifysgol Cymru, yn y ddau achos hyn rhwng 1981 a 1987. Ef oedd Darlithydd Regents Prifysgol California ym 1984.

Ymhlith ei gyhoeddiadau niferus roedd y cyfrolau Private Member (1973), Margaret, Daughter of Beatrice (1990) a Tony Blair: the Man behind the Smile (2002). Bob tro yr ymddangosai cyfrol newydd o'i waith fe'i hystyrid yn fwy eithafol na'r llyfrau cynt. Techneg Abse oedd astudio'r berthynas rhwng gwleidyddiaeth a phersonoliaeth. Mentrodd feirniadu'n fanwl fywydau personol gwleidyddion cyfoes. Nid oes fawr syndod iddo wneud gelynion - bob amser y rhai mewn grym, yn fwyaf arbennig brif weinidogion. Ymhlith ei ddiddordebau niferus roedd gwinoedd o'r Eidal, cigars o Ciwba, ac ymweliadau niferus â orielau celf amrywiol ledled Ewrop.

Priododd Leo Abse ym 1955 â Majorie Davies a fu farw ym 1996. Bu iddynt ddau o blant, sef Tobias a Bathsheba. Priododd am yr ail dro yn y flwyddyn 2000 Ania Czepulkowska, cynllunydd tecstilau o Gdansk, pan oedd ef yn 83 a hithau ond yn 33 mlwydd oed. Roedd cyfeillion Abse yn hynod ddiolchgar iddi am ofalu amdano yn ei henaint ac yntau'n mynd yn gynyddol fyddar. Bu farw ar 19 Awst 2008. Gadawodd ei ystâd gwerth £1.2 miliwn i Ania, gan ddietifeddu ei blant a'i wyrion ei hun.

Dadorchuddiwyd penddelw ohono yn Amgueddfa Genedlaethol Cymru yng Nghaerdydd ar 22 Hydref 2009. Y cwmni cyfreithiol a sefydlodd sef Leo Abse a Cohen a ariannodd y fenter, a gwnaethpwyd y penddelw gan gyfyrder i Abse sef Luke Shepherd. Cyflwynwyd grwp sylweddol o'i bapurau i ofal yr Archif Wleidyddol Gymreig Llyfrgell Genedlaethol Cymru.