SI te peta cuando aumentas los VSTi es que te está capando la memoria RAM.
Amplíala y sube si no estás ya a un SO de 64 bits.
Ahora mismo aunque te pilles una tarjeta de sonido de 1500 euros como la de mi firma, tendrías los mismos problemas exactamente iguales.
Una tarjeta de sonido externa es como un bundle con distintos elementos de hardware:
- Unas entradas para registrar el sonido de instrumentos, micrófonos o cacharros.
- Unos previos para amplificar la señal de entrada.
- Un conversor para convertir esa señal analógica en digital.
- Un mezclador de las distintas señales de entrada y salida de la tarjeta.
- Unas salidas para sacar el sonido de tu PC a cascos, monitores, otros aparatos...
- Un conversor de la señal digital de tu PC a analógico en esas salidas.
Todos esos elementos se pueden encontrar por separado, pero claro, mucho más caro.
Puede que no necesites NINGUNO de esos elementos para producir música electrónica (desde luego no te harán falta en Fruity Loops). La tarjeta de sonido integrada del PC es suficiente para eso (la estás usando para sacar el sonido a unos auriculares).
Cuando necesites conectar cacharros externos, utilizar unos monitores decentes para mezclar, balancear las distintas señales de entradas y salidas, grabar instrumentos o voces, etc entonces si que necesitarás una tarjeta de sonido dedicada.