Hola JM
De momento, podrías pasarte algo de información sobre el S.O. en que intentas instalar las dos instancias de Sql Server (que, personamente, te puedo decir que pueden convivir sin problemas mientras cada una tenga un nombre distinto).
De todos modos, prueba a hacer lo siguiente (si es tu caso): desistala los service packs de Sql Server 2005 Express que puedas tener instalados y entonces intenta instalar la versión de Sql Server 2005 normal.
Intentalo así, yo tuve problemas parecidos con la mezcla de versiones express del visual studio, el mismo visual studio, el sp1, y las plantillas de nuevos proyectos en WPF, etc...
Saludos!