Dell OptiPlex 7090 SFF（i7-11700 メモリ 32GB Win10 Pro 22H2 OS ビルド 19045.5796）で VMware Workstation 17 Pro バージョン 17.6.3 build-24583834 を使用しています。OBS Studio 31.0.3(64 bit) をインストールしたところ、デフォルトで作成した仮想マシンの画面が下記となりました。
OBS Studio は、VMware と同時には起動せず、停止状態です。この状態になった後、OBS Studio をアンインストールすると下記の通り、正常に表示されるようになりました。
Windows をクリーンインストールし直したりして、原因究明に3日くらい掛かりました。ネットで検索しても同じ現象の情報が無かったようなので、報告します。