En el metro redux desactiva el super sampling y mira a ver que tal te funciona.
Y lo que te ha pasado es que habrás hecho un OC demasiado excesivo, que placa tienes? Por que el del vídeo de youtube supongo que tendrá una placa preparada para subirlo a 4,6Ghz pero a lo mejor la tuya no da para tanto.
Como te han dicho tienes que ir subiendolo poco a poco hasta encontrar estabilidad.