Precisamos, antes de tudo, instalarmos o Ruby com o YUM:

# yum install ruby

Após a instalação, precisamos instalar suas dependências:

# yum install gcc g++ make automake autoconf curl-devel openssl-devel zlib-devel httpd-devel apr-devel apr-util-devel sqlite-devel
# yum install ruby-rdoc ruby-devel

Nota: recomendo instalar o grupo "Development Tools" disponível no YUM, com o comando:

# yum groupinstall "Development Tools"

Podemos instalar o RubyGems, para podermos instalar o Rails e futuras funcionalidades ao Ruby. Para instala-lo, use o comando:

# yum install rubygems

Antes de partirmos para a instalação do Rails, precisamos instalar todas as atualizações disponíveis ao Gem até o momento, com os comandos:

# gem update
# gem update --system

Poderá demorar um pouco. Para instalarmos uma aplicação no Gem, usamos a mesma sintaxe do yum:

# gem install rails


Referência: How to Install Ruby on Rails on CentOS 6 - Digital Ocean