Ym mis Gorffennaf 1886 dewiswyd ef yn ymgeisydd Rhyddfrydol ym Meirionnydd , ac etholwyd ef i'r Senedd . Ymdreuliodd dros fuddiannau Cymru 'n ddiarbed, a daeth yn fuan yn arweinydd yn y bywyd Cymreig ; cymerodd ran helaeth yn yr ymgyrch a sicrhaodd basic Deddf Addysg Ganolradd a Thechnegol (Cymru) yn 1889 . Y gaeaf hwnnw aeth i'r Aifft , a thrawyd ef yn bur wael gan dwymyn ; pan ddychwelodd yn 1890 rhoddwyd iddo dysteb genedlaethol gan bobl Cymru . Yn ei araith yn y Bala , Medi 1890 , pan dderbyniodd y dysteb, cyhoeddodd ei efengyl wleidyddol, a gofyn am gymanfa ddeddfwriaethol i Gymru yn angen pennaf. Ond prin oedd yr ymateb; ac yn 1892 , pan ffurfiodd W. E. Gladstone ei weinyddiaeth, derbyniodd Ellis swydd yr ail chwip . Yn y swydd hon bu ef yn anad neb yn foddion i sicrhau penodi comisiwn brenhinol i ystyried Pwnc y Tir yng Nghymru a Mynwy , ac i hyrwyddo mesurau er datgysylltu Eglwys Loegr yng Nghymru . Yn 1894 penodwyd ef yn brif chwip . Rhoddes lawer o'i amser i weinyddiad addysg yng Nghymru ; bu'n aelod o gydbwyllgor addysg Meirionnydd dan Ddeddf 1889 (uchod), o Lys Prifysgol Cymru , ac o'r Bwrdd Canol Cymreig . Yr oedd yn un o arloeswyr y mudiad er sicrhau llyfrgell genedlaethol i Gymru ; cychwynnodd ef Gymdeithas Hen Fyfyrwyr Coleg Aberystwyth , a bu'n llywydd arni hyd ei farw; bu hefyd yn warden Urdd Graddedigion Prifysgol Cymru . Golygodd gyfrol gyntaf Gweithiau Morgan Llwyd o Wynedd , a gorffennwyd ei waith gan ei frawd-yng-nghyfraith, J. H. Davies .

Priododd Annie , merch R. J. Davies o'r Cwrt Mawr , Llangeitho , a bu iddynt fab. Bu f. yn Cannes , Ffrainc , 5 Ebrill 1899 , a'i gladdu yng Nghefn-ddwysarn . Mae cofgolofn iddo ar stryd y Bala ac un arall yng nghyntedd Coleg Prifysgol Cymru , Aberystwyth . Cyhoeddwyd cyfrol o'i weithiau yn 1912 .