El Windows por desgracia, solo admite imágenes en formato .ico para colocar como iconos en carpetas, accesos directos o lo que sea. El formato .ico realmente es un contenedor de varias imágenes en formato BMP o PNG (no estoy muy seguro en el tema del formato...) y en varios tamaños (generalmente desde 16x16 hasta 128x128 y en algunos casos hasta 512x512); así pues, cuando el Windows agranda el tamaño del icono, carga el que sea más adecuado para ese tamaño y lo agranda o reduce hasta que considere que debe cargar el siguiente.
Si lo que quieres es tener una imagen como icono de carpeta y que cambie el tamaño según cambias tú el tamaño de los iconos, lo que tienes que conseguir es hacerte con un editor de iconos decente que te permita guardar esa imagen a distintos tamaños y resoluciones en un archivo .ico. Después, coloca ese archivo .ico como icono de tu carpeta.