Otimizando MySQL

Olá tenho um servidor com Windows Server 2008 R2 para um determinada aplicação usa banco de dados MySQL, este servidor é um DELL com 16GB de RAM e processador Xeon E5620 2.40 GHz, o banco de dados da aplicação tem 5,3 GB gostaria de subir todo o banco de dados em memória, o que devo fazer aumentar o desempenho do banco de dados? atualmente não é usado 2GB de memória RAM e menos de 1% de processador.

Primeiramente use a versão GA mais recente (hoje 5.6.20).
Verifique se suas tabelas são InnoDB.
Localize seu arquivo my.ini e ajuste a variável innodb-buffer-pool-size (pode começar com um valor aprox. 70% da memória disponível) e reinicie o mysql.
Faça SELECTs para que suas tabelas sejam lidas no disco e cacheadas no buffer.

Note que há várias otimizações possíveis, mas esse é um bom começo.

Olá a versão do MySQL é a 5.1.49 pois tem que ser essa versão por uma questão de compatibilidade com o componente de acesso ao banco que o sistema usa, na opção innodb-buffer-pool-size é setado o valor de 1240M na sua opinião se mudar para 8192M qual será o ganho real?

Se as tabelas forem InnoDB você provavelmente terá ganhos, mas para ter certeza é preciso que você monitore o desempenho, faça o ajuste e verifique se melhorou. Dê uma olhada a partir do slide 27 http://www.slideshare.net/mobile/MySQLBR/mais-performance-com-o-mysql-56 .