Adeiladwyd Penywern ym 1839 a dyma, ar y cychwyn oedd prif farics y milwyr a ddaeth i Ferthyr i gadw’r heddwch yn sgil Gwrthryfel 1831. Cwmni Haearn Dowlais oedd perchnogion y safle a chafodd y cronfeydd a’r pyllau eu defnyddio ar gyfer Gweithfeydd Dowlais.
Mae pwll uchaf ac isaf wedi eu lleoli naill ochr i’r A465, Ffordd Blaenau’r Cymoedd, i’r gorllewin o siop ASDA. Gall pysgotwyr ddod o hyd i ferfog y môr, cochiad, ysgretennod, draenogyn dŵr croyw, barfogyn a cherpynnod.