Configurair domínio paira 2 IP

Estou fazendo um service que paira cada user cria subdomínio. Então, por exemplo, tenho 2 serveres, cada um com IP próprio. Por exemplo, www.example.com é apenas um IP. Mas todos os outros devem ter proj1.example.com (1 IP), proj2.example.com (2 IP).

O que devo colocair no DNS? Defina todos os IPs como um registro?

Quais as melhores práticas paira isso em grandes projetos com centenas de serveres?