Depende de lo que quieras aislar las dos funciones que describes, puede tener sentido instalar proxmox y usar dos máquinas virtuales, una para el NAS y descargas con el "sabor" que prefieras y otra para emuladores con GPU passtrough.
Yo personalmente veo que son cosas que no encajan demasiado bien en el mismo PC (porque tienen requisitos diferentes), y el consumo me parece muy elevado para tenerlo encendido 24/7. Algo que hace muchas cosas termina por no hacer ninguna bien.
Si igualmente quieres hacerlo quizás lo más sencillo sea lo que te comentan de instalar un linux ligero e ir metiendo cosas.
Saludos
