Die beiden Begriffe sollten nicht synonym verwendet werden.
Im genannten Kontext einer Hausarbeit stelllen Schriftart, Zeilenabstand, Seitenränder, usw. eine Rahmenbedingung dar, die bei Bedarf auch sehr speziell für einen Zweck vorgegeben wird. Die Vorgabe der Schriftgröße von mindestens 14pt für das Manuskript einer Ministerrede und ein vergrößerter Zeilenabstand sind Beispiele dafür.
Die Rahmenbedingung ist eine Bedingung, die für etwas den äußeren Rahmen absteckt, d.h. die von außerhalb des betrachteten Systems oder Vorgangs vorgegeben ist.
Beispiele siehe auch Wortschatz: Rahmenbedingungen oder DWDS
Im genannten Kontext einer Hausarbeit stellen Quellenangaben eine (optionale) Randbedingung dar, die sich indirekt aus Zitierregeln ergeben und nicht explizit vorgegeben werden. Es können auch Regeln für Abbildungsverzeichnisse sein.
Die Randbedingung ist eine Bedingung, die bei etwas zu beachten ist.
Beispiele siehe auch Wortschatz: Randbedingungen oder DWDS