Отличный вариант с отдельным окном и флагом исключения, реально помогает избежать нежелательного захвата оверлея OBS. Только с несколькими IDirect3DDevice9 нужно быть осторожным — иногда хук ставится не на тот девайс, и всё ломается. В общем, такая схема с двойным Present — самая адекватная для разделения рендера на игру и оверлей без пересечений.