このエラーってよく聞くけど原因特定が非常に難しいことでも知られてる。
自作であるなら、組み立ての際に静電気でどこかがやられたのかもしれないし、どれかのパーツとの相性かもしれない。

最高負荷にすると出るってことなんで、とりあえずGPUうたがってみますか。
１：差し込み不良による高負荷時の供給電力不足を疑いPCI-Eスロットの差し直しと供給電源の6pinや8pinの差し直しを確認する
２：アフターバーナーとかのツールつかってファン速度を100％に固定して試してみる→これで出ないのであれば冷却不足と考えられるのでケースファンや配線のまとめ方とかを見直す
ひとまず思い浮かぶのはこんなところです。
組み立ての際に静電対策してなくてどっかおかしくなってたらさすがにわかりませんが。