Auch ich kann leider nur einen "educated guess" abgeben:
Der Duden erklärt die Herkunft des Schimpfwortes "Pottsau" mit "im Dreck suhlende Sau" und gibt dabei an "Pott in der Bedeutung »Abfalleimer«". Pott ist ein im nord-/niederdeutschen Sprachraum verbreiteter Ausdruck für Topf oder ähnliche Gefäße (z.B. auch in "Pisspott" für "Nachttopf", im Märchen vom Fischer und seiner Frau Bezeichnung für eine Kate, eine ärmliche Fischerhütte).
Das Rheinische Wörterbuch von 1928 kennt die Begriffe pottschwarz, pottdreckig und pottschmierig, die vermutlich einerseits auf Kohle- und Dreckeimer verweisen, in denen andererseits aber auch "pott" jeweils eine verstärkende Rolle zu übernehmen scheint. "Potthäßlich" hingegen ist dort noch nicht aufgeführt.
Meine Vermutung wäre nun, daß in Analogie dazu irgendjemand mal "pott" vor "häßlich" gesetzt hat, um den Ausdruck zu verstärken, insbesondere durch den Bezug auf etwas unsauberes, dreckiges. Eine sehr rudimentäre Textanalyse (siehe die Kommentare zur Frage; im Duden scheint der Begriff seit mindestens 1972 vertreten zu sein) nährt den Verdacht, daß das etwa zwischen 1920 und 1950 geschehen sein könnte.