Usando un programa de edición de audio más o menos decente, tipo CoolEdit o SoundForge, abres el archivo y pasas mediante una transformada de Fourier del dominio del tiempo al dominio de frecuencia. Miras la frecuencia máxima que alcanza con la transformada, y si no pasa de los 16KHz aprox. es un MP3. Ahora no me acuerdo el especto de un CDDA, pero es superior a los 20KHz. Si usas diferentes compresores de MP3 y le aplicas esto, verás cuál te ofrece un espectro de frecuencias mayor (se supone que LAME es el mejor).
Saludos.