Pues lo primero mira que el firewall (si es que tienes) te pueda estar dando problemas... yo por ejemplo tengo el ZoneAlarm, y por mas que le digo que permita al flashfxp actuar como servidor y el acepte la orden, al intentar conectar, parece que lo hace y sin embargo no aparece nada en la pantalla del flashfxp. Así que cuando quiero trapichear con la X, lo quito.
Más cosas, supongo que habrás configurado bien la IP de tu tarjeta de red en el PC (así como la submascara... por ejemplo, si la IP de tu Xbox es 192.168.1.200, en tu PC pon 192.168.1.0 y como submascara 255.255.255.0)... y ojo! que en tu Xbox este seleccionada la opción de IP estática.
Como ya apuntaron, que el cable sea cruzado (fijate que los cables interiores en los dos extremos no sigan la misma secuencia de colores).
Más cosas, si usas flashfxp y lo has parcheado, puede que ahí tengas el problema... si no lo has parcheado con la versión adecuada no te funcionará... prueba a usar el programa tal cual te lo bajas de la página oficial, con los 30 días de prueba.