Por supuesto que es posible. Lo que podrías hacer es llamar a tu proveedor de internet y ver si tiene alguna oferta de router wifi, y si es asi pillarte uno.
Por cierto, quiero aclararte las conexiones de tu pc, router.
Tu tienes una roseta de telefono al lado del pc, la cual es de cable rj-21. Este cable lo conectaras al router, el cual tendra una entrada compatible con este cable. Ademas de esta entrada el router tendra otras bocas, que son rj-45, es decir cable de red. Supongo que con lo que te refieres a que tu pc tiene una entrada como la del telefono es que tendras una tarjeta de red, la cual tiene una boca de cable de red, y atraves de esta y con un cable de red la conectaras al router.
Mientras haces esta conexión que es de lo mas sencilla, tendras activado el wifi para tu casa, es decir consolas, demas pc...
Un salu2