Creo que si haces los rectángulos de un color que no exista en al foto, haces una selección de color y borras ese color, conseguirás el efecto que quieres.
Es decir:
-dibujas la "red" de rectángulos
-acoplas las capas de la foto y la red
-añades una capa de fondo transparente
-haces la selección de color con una calado de 1 (es eso el mínimo, no? lo digo de memoria) y borras la selección.
El resultado debería ser lo que buscas, no?