Safodd yn aflwyddiannus yn ymgeisydd Ceidwadol dros etholaeth Pontypridd yn etholiad cyffredinol 1959 ac yn is-etholiad Glyn Ebwy 1960 a gynhaliwyd ar farwolaeth Aneurin Bevan, pan, yn unol â'r disgwyl, gorchfygwyd ef gan Michael Foot (Llafur). Safodd yn yr un etholaeth eto yn etholiad cyffredinol Hydref 1964. Bu wedyn yn cynrychioli etholaeth De Kensington, o Fawrth 1968 (is-etholiad) hyd Chwefror 1974, a Kensington a Chelsea o Chwefror 1974 tan ei farwolaeth gynamserol ym 1988 yn drigain oed. Roedd De Kensington yn un o seddau mwyaf diogel y Ceidwadwyr drwy Brydain Fawr, Kensington ychydig yn fwy ymylol. Yn is-etholiad 1968, dewiswyd ef allan o restr fer oedd yn cynnwys enwau Christopher Soames a Geoffrey Howe, tra ym 1974 ymhlith y gystadleuaeth ar gyfer yr enwebiad roedd Torïaid blaenllaw'r dyfodol megis Leon Brittan a Rhodes Boyson. Roedd hefyd yn aelod o Senedd Ewrop o 1979 tan 1984, yn cynrychioli etholaeth Ewrop De-ddwyrain Llundain. Roedd yn aelod o'r Ddirprwyaeth Brydeinig i Gyngor Ewrop, 1970-72, ac i Senedd Ewrop o 1973 pan ddaeth yn is-gadeirydd y Pwyllgor ar Faterion Economaidd ac Ariannol. Roedd ei fwyafrif yn etholiad cyffredinol 1987 yn 4,447 o bleidleisiau mewn brwydr drionglog. Ystyrid ef yn un o'r Aelodau Seneddol mwyaf annibynnol a dengar, a'r prif ladmerydd effeithiol ar ran merched, plant a'r tlodion o fewn y senedd. Ystyrid ef hefyd yn un o'r hen ysgol o Dorïaid tadol eu cymeriad, ac roedd yn barod ar adegau i siarad allan yn erbyn arweinyddiaeth ei blaid. Sicrhaodd hyn na wnaeth fyth ennill lle o fewn y llywodraeth. Ysgrifennai'n rheolaidd i golofn ‘Llythyrau'r’ Times. Roedd ganddo lawer o ddiddordebau yn ne Cymru, gan gynnwys llywyddiaeth Cymdeithas y Gwarchodlu Cymreig yn Nwyrain Morgannwg.

Priododd ym 1961 Caroline Susan, merch hynaf L. A. Foster, Greatham Manor, Pulborough, swydd Sussex, a bu iddynt un mab a dwy ferch. Eu cartrefi oedd 32 Rawlings Street, Llundain SW3, a'r Gadairwen, Groes Faen, ger Pontyclun, sir Forgannwg. Bu farw ar 18 Mai 1988, ar ôl brwydr hir yn erbyn lewcemia a chladdwyd yn ef eglwys Dewi Sant, Y Groesfaen. Arweiniodd ei farwolaeth at yr is-etholiad cyntaf yn senedd 1987-92. Ei olynydd yn y farwnigaeth oedd ei fab Arthur Gareth Ludovic Emrys Rhys-Williams (ganwyd 9 Tachwedd 1961).