Para revivir un Celeron de esas características pon un XP con las opciones gráficas al mínimo o un Windows 2000 Professional, dudo mucho que tengas alguna incompatibilidad.
El Windows Fundamentals for Legacy PCs está ideado para ordenadores muchísimo más antiguos (sus requerimientos mínimos son los de Windows 2000 Professional) y su función principal es al menos convertir ese tipo de máquinas en terminales tontos que puedan conectarse a servidores Terminal Server para poder trabajar en remoto.