What is the correct way to refer to the object in a subordinate clause?
Haben sie mehr von der blauen Farbe, das/die/der Sie genutzt haben, um die Tür zu malen?
It's
... mehr von der blauen Farbe, die ...
Be careful, though: In German malen usually means to "render in color". It's what a painter, an artist does. If you're referring to a new coat of paint for the door, you better use streichen. Likewise, genutzt, while perfectly understandable, is not idiomatic in this case. Use benutzt:
Haben Sie noch etwas von der blauen Farbe, die Sie benutzt haben, um die Tür zu streichen?
Haben Sie noch mehr von der blauen Farbe, mit der Sie die Tür gestrichen haben?
Since "die Farbe" is feminine, you use a feminine relative pronoun. Since this pronoun is the direct object of the relative clause, you use it at the accusative (which in this case is the same as nominative): "die".
Haben Sie noch etwas von der blauen Farbe, die Sie benutzt haben, um die Tür zu streichen?