Zunächst einmal sei gesagt, dass der Ausdruck recht alt zu sein scheint und es Belege für mindestens Anfang und spätestens Mitte des 19. Jahrhunderts gibt.
In "Das neue königliche l'hombre, nebst einer gründlichen Anweisung wie [...] zu spielen sind" von 1808 steht:
Die Würfel, welche auf die Leisten springen, und die, welche nicht recht gerade stehen, sich brennen, wenn sie gleich in dem Brettspiele bleiben, gelten nicht.
In "Volkskundliche Quellen" von 1912 steht zum Eintrag brennen
... Wir lassen noch ein Paar eigenthümliche Anwendungen unsres Wortes folgen. Es liegt hier im Allgemeinen die Warnung zu Grunde, einem Gegenstande, gleichwie einen Feuer, nicht zu nahe zu kommen. So, wenn im Blindekuhspiel derjenige, dem die Augen verbunden sind, einer Wand, einem Schranke zu nahe kommt, so ruft man ihm warnen zu: es brennt. - Wenn beim Würfeln ein Würfel sich an etwas stößt, daß er schräg zu liegen kommt, so heißt es: es brennt und der Wurf gilt nicht.
Dazu sei gesagt, dass im Spiel Zehntausend die Möglichkeit besteht einen Würfel durch Schlagen auf den Tisch (Klopfen) in eine nicht-schräge Position zu bringen. Dies wird auch als Löschen bezeichnet. Wie alt dieses Spiel ist, bzw. ob es Vorgänger gibt, konnte ich nicht prüfen.
Die Zitate geben allerdings 2 Interpretationen her:
1) Ein Würfel der brennt ist "verbrannt" und zählt nicht für den Wurf.
2) Ein brennender Würfel darf nicht angefasst werden und dadurch in eine eindeutige Position gebracht werden.
Unwahrscheinlich, aber der Vollständigkeit haber gibt es noch den Eintrag 2b) für brennen im Grimmschen Wörterbuch
2) reflexives brennen
b) sich irren
Der Würfel könnte sich also auch "irren". Aber wie gesagt ist dies für mich die unwahrscheinlichste Interpretation.