Si lo haces por streaming local vas a tener lag, puede ser poco apreciable pero lo habrá, y el vídeo tiene compresión por lo que pérdida habrá, lo mismo se aprecia poco a altos bitrate de vídeo pero la compresión está ahí. Es imposible el lag cero en streaming, a eso te tienes que hacer a la idea, algunos frames entre origen y destino habrá incluso en los mejores casos. Además si es una pi3 su salida es 1080p60, y la pi4 está o estaba un poco en pañales y no sé si la descompresión por hardware ya va bien o no.
Lo ideal es llevar el HDMI pero a no ser que te gastes una pasta en cables HDMI y amplificadores de señal tienes muy negro el panorama, con 10metros de cable ya puedes tener problemas de parpadeos / perdida de señal, por eso no es tan fácil como echar un cable y ya está. Y además si hablamos de 4k ya pasamos a más problemas, aparatos con 4k60 sin subsampling (HDMI 2.0 real, no intentando sacar 4k desde hdmi 1.4 que solo puede con 30hz o sacrificando color a 60hz) son bien caros. Y con los USB, otro follón. (Cables muy largos podrían no alimentar bien según que dispositivos y no siempre un hub usb con alimentación arregla el tema)