Gustavo Borges começou a nadar por volta dos 10 anos, na Associação Atlética Ituveravense, em 1982. Sempre gostou de vários esportes. Jogou um pouco de futebol, tênis, basquete, fez hipismo e natação. Na cidade onde morava, Ituverava, o esporte mais organizado e com técnico, na época, era a natação, esporte que se tornou o seu preferido.

Paralelamente aos estudos em escolas regulares, praticou sempre um esporte e esteve constantemente dividido entre a escola e a prática esportiva.

A escalada de vitórias de Gustavo Borges, com façanhas registradas por jornais e revistas de todo mundo, iniciou-se em 1991, nos jogos Pan-americanos, em Cuba.