デバイスの接続・切断が発生するとFF14の描画が10~20秒停止する
https://forum.square-enix.com/ffxiv/threads/511890
上記不具合報告に関してですが、その後色々試した結果、
PCにつなげていたUSB-DDC(型番:FX-D03J)が原因のようでした。
このDDCをPCにつなげていると(規定の出力先にしている/していないに関わらず)、
PC上のデバイスの状態に変更が発生した際にFF14の画面が10~20秒停止するようになり、
DDCを取り外してからUSBの抜き差し等を試したところ、発生しなくなりました。

マウス等その他のUSB機器を抜き差しした場合は一瞬FF14の処理が重くなる程度の挙動ですが、
上記DDCの場合はなぜかめちゃくちゃ重くなるのかもしれません。
FF14でのみこういう現象が発生する原因については結局わかりませんでしたが、
ひとまずはこのDDCを使わないことで解決しました。