Ayuda sobre codificación.

No sé si es exactamente lo que necesitas... sin embargo lo intentaremos

Tienen que ver con el código ASCII, que como sabemos (o a partir de ahora sabremos ) tiene 8 bits (bueno, el extended tiene 8 bits, pero al fin y al cabo es el que se usa). Bien, los 8 bits se podrían representar en formato binario, con lo que cada carácter ocuparía 8 'espacios' en el editor binario, por lo que se usa el formato hexadecimal, que coge de 0x00 a 0xFF (0 a 255, código ASCII).
Lo que tienes ahí de codificación es por ejemplo 0x54 corresponde a 'T'. Si haces 5x16^1 + 4x16^0 = 80+4=84, si haces ALT+84 te tendría que salir la T.

Si lo he explicado muy raro avisa y lo intento sintetizar más

Edit: Aunque si lo que quieres es modificar el texto lo suyo sería hacerlo con el Reshack.

Si, un poco ya me he estado informando, el problema es que se usan 2 bytes por letra y los 2 primeros bytes (¿los de la longitud?) no concuerdan del todo con la longitud real de la cadena.