Bom, tudo isso eu fiz no Fedora Core 5, mas pode ser que alguém com outra distro esteja com o mesmo problema, então aí vai.

Primeiro baixei o RPM para Red Hat no site do programa, fiz a instalação sem maiores problemas.

Editei o arquivo /etc/profile e acrescentei a linha:

Digite esses comandos no terminal também para não precisar fazer login novamente para que a variável seja lida:

# JAVA_HOME=/usr/lib/jre1.5.0_08/
# export JAVA_HOME

No aplicativo, ao que me pareceu, ele apontava para $JAVA_HOME/jre... como na pasta /usr/lib/jre1.5.0_08/ não havia outra pasta jre dentro, criei um link simbólico para a pasta bin:

# ln -s /usr/lib/jre1.5.0_08/bin/ /usr/lib/jre1.5.0_08/jre

Digite também:

# chgrp -R users /usr/share/Mercury
# chmod -R 775 /usr/share/Mercury

Pelo que li o programa não dá certo sendo executado via um link simbólico devido ao NPTL (Native Posix Thead Library) ativado, GLIBC travando o LAX (LaunchAnywhere) - foi o que li no próprio site do Mercury, como sou iniciante não entendi muito bem, seria interessante se alguém experiente pudesse esclarecer o que isso significa. Só entendi que tem alguma coisa que bloqueia que o programa seja executado de qualquer lugar.

Acesse a pasta do Mercury e dentro dela acesse a pasta startup. Torne o arquivo startup_linux.sh executável:

# chmod +x /usr/share/Mercury/startup/startup_linux.sh

Feito isso execute o arquivo:

# ./startup_linux.sh

OBS: Tentei criar um link simbólico que apontasse para esse arquivo, mas ele dava erro na hora de abrir, só consegui executar apontando diretamente para este arquivo.

Espero que tenha ajudado.