Your example Ich bin streng damit, dass ich mein Haus sauber halte. would be more common as Ich achte streng darauf, dass ich mein Haus sauber halte.
Ich achte streng darauf, dass ich mein Haus sauber halte.
Another sentence with streng mit:
Er ist streng mit sich selbst.
He adheres strictly to his principles.
So streng mit jemandem/etwas sein means to be hard on someone or e.g. the results of his work.
Ich bin streng dagegen, dass …
I am strictly opposed to …
Same for streng gegen.