Pues puede que Win98 no soporte ese pc por ser demasiado moderno...
Mi consejo es que, instales un sistema operativo más moderno que sí funcione (2000, xp, vista, el que quieras) y instales en él un programa de virtualización.
Con esto podrás instalar win98 dentro de otro sistema, será virtual, y perderás rendimiento, pero total, si ese programa que necesitas sólo funciona en win98 apuesto a que muchos recursos no pide, porque los pcs de esa época eran muy inferiores a los actuales.
Puedes usar virtualizadores sin rascarte el bolsillo, tienes
VirtualBox ó QEMU.
Luego si prefieres pagar, tienes VMWare, y parallels, por ejemplo.