The vor sich hihhin means to oneself. For instance
Ein Liedchen vor sich hin summen
or
Sie lächelte vor sich hin.
The verb summen has usually an accusative object: einen Ton summen, eine Melodie summen. So, in your concrete example, in vor sich hin summen you supress this accusative object with the vor sich hin anymore and it means to hum to oneself:
Mr. Dursley hummed (to himself) as he picked out his most boring tie for work, ...