Filho de Ernesto Cony Filho, jornalista, e de Julieta de Moraes, Carlos Heitor Cony nasceu no dia 14 de março de 1926 na cidade do Rio de Janeiro, no bairro de Lins de Vasconcelos, zona norte da cidade. Foi o terceiro dos quatro filhos do casal: Giovane Alceste (falecido em 1920), José Heitor, Cony e José Carlos.
Quatro anos depois muda-se para a cidade vizinha de Niterói - RJ, onde residiria por dois anos. Tido como mudo pela família, somente aos cinco anos pronuncia suas primeiras palavras. O fato ocorreu em virtude de um susto que levou com o barulho de um hidroavião que realizou um vôo rasante na praia de Icaraí, naquela cidade. Para evitar maiores constrangimentos ao menino, sua família decide educá-lo em casa.
Em 1934, já de volta ao Rio, faz sua primeira comunhão e passa a ser ajudante de missa na Igreja Nossa Senhora de Lourdes, no bairro de Vila Isabel. Sua dificuldade com a dicção das palavras - principalmente trocando o "g" pelo "d" - fazia com que fosse alvo das brincadeiras de seus amigos. Resolve, então, escrever inúmeras vezes a palavra fogão em seu caderno. Mostra aos amigos e, como eles não riram, entendeu que para não se tornar motivo de chacota deveria dedicar-se à palavra escrita.
Aos dezoito anos manifesta o desejo de tornar-se padre. Seu pai o prepara para o exame de admissão e, após aprovado, ingressa no Seminário Arquidiocesano de São José, em Rio Comprido - RJ, no dia 3 de março de 1938.
Livra-se definitivamente de seu problema da fala, em 1941, após uma operação realizada pelo médico Pedro Ernesto do Rego Batista, ex-prefeito do Rio de Janeiro.
Deixa o seminário em outubro de 1945 e ingressa, no ano seguinte, na Faculdade Nacional de Filosofia da Universidade do Brasil, hoje Universidade Federal do Rio de Janeiro (UFRJ), que abandona pouco depois.
Em 1947 surge a oportunidade de cobrir as férias de seu pai no Jornal do Brasil, então um grande diário da cidade. Para garantir seu ganha-pão, consegue nomeação e torna-se funcionário da Câmara Municipal do Rio de Janeiro.
No ano seguinte entra para o Curso de Preparação de Oficiais da Reserva (CPOR), na arma de Infantaria, de onde sairia dois anos depois.
Em 1949 casa-se com Maria Zélia Machado Velho, mãe de suas duas filhas: Regina Celi (1951) e Maria Verônica (1954). Esta é a primeira das seis uniões conjugais de Cony.
Influenciado por Jean Paul Sartre, filósofo e autor francês, escreve "O Ventre". Em 1956 concorre ao Prêmio Manuel Antônio de Almeida (Romance), promovido pela Prefeitura do Rio de Janeiro. Austregésilo de Athayde, Celso Kelly e Manuel Bandeira, que compuseram a comissão julgadora, foram unânimes em dizer que o romance era "muito bom", mas não poderiam premiá-lo por se tratar de uma obra forte demais para vencer um concurso oficial.
