Parece ser que te plantea la salida como el sumatorio de cada uno de los armonicos de la señal de entrada por la funcion de transferencia a esa omega.
Primero separas las componentes del seno (exponenciales complejas -> esto es de mates 1), como solo tienes un seno, solo vas a sacar dos armonicos. Estos armonicos tienen una frecuencia fundamental que es (pi/2 + pi/4) y -(pi/2 + pi/4) y son las frecuencias que debe tener la funcion de transferencia H cuando las multiplicas por sus respectivas componentes.
El resto es operar.
El segundo ya no se ni que coño ha hecho, no aparece ni siquiera la amplitud de la funcion de transferencia. Ya no se si hace falta o no, pero creia que si.
Saludos.