La unica forma que se me ocurre es a traves del codigo fuente del programa modificar los formularios para adaptarlo a resoluciones mayores de 800x600 y despues lo vuelves a compilar.
Si no dispones del codigo fuentes puedes buscar en google 'vb6 decompiler' y alli dispondras de mucha info sobre como descompilar el exe para volver a obtener el codigo fuente.
Saludos!