Primogenito di Ernesto Carraro, tipografo, e di Giulia Massimo, entrambi originari della provincia di Rovigo, Agostino Carraro nacque in una casa di Corso Magenta. Gli anni dell'infanzia furono segnati dagli avvenimenti della Grande Guerra, alla quale prese parte anche suo padre. Dopo le scuole elementari e medie, Tino frequentò il ginnasio per due anni, poi una scuola tecnica per tre anni. Ottenne il primo impiego al Banco di Roma, ma dovette interrompere il lavoro per il servizio di leva, che svolse per diciotto mesi a Bergamo in una caserma di fanteria. Al rientro nella vita civile, Carraro venne assunto dal conte Scotti di Vigoleno, importatore di automobili francesi ma, poco dopo, a causa delle sanzioni economiche decretate all'Italia fascista, la concessionaria dovette chiudere. Tra l'incertezza di un futuro lavoro e la curiosità verso un mondo che suo padre aveva solo sfiorato, nel 1938 si iscrisse all'Accademia dei Filodrammatici di Milano, scuola che pagò lavorando come venditore di pezzi di ricambio per quelle stesse automobili che non potevano più essere vendute in Italia a causa dell'autarchia. Nell'Accademia dei Filodrammatici incontrò Mary Mayer, istriana di origini austriache, che sposò nel 1940 e da cui ebbe in seguito due figlie: Anna e Roberta. Al termine del biennio di corsi serali, venne ingaggiato nella compagnia dell'Accademia di Roma dopo essere stato sottoposto ad audizione. Debuttò così con Molto rumore per nulla di Shakespeare recitando,  con Ave Ninchi . Successivamente, nel 1952, divenne primo attore del Piccolo Teatro di Milano, dove strinse un forte sodalizio con il regista Giorgio Strehler. Il legame era da ricercarsi soprattutto nella metodologia di lavoro di Carraro, tesa sempre a valorizzare e a sottolineare il lavoro dell'attore come risultato di un processo meticoloso e di artigianato, scevro da divismi ed esaltazioni istrioniche, in piena linea con i propositi artistici del teatro milanese. Accanto all'attività teatrale Carraro si produsse anche negli sceneggiati televisivi, con notevoli interpretazioni, come quella del Raguseo ne Il mulino del Po o del poliziotto Javert in I miserabili, quindi nella magistrale interpretazione di don Abbondio ne I promessi sposi che lo rese molto popolare presso il grande pubblico televisivo, ma anche in I grandi camaleonti, nella parte di Talleyrand, in A come Andromeda, dove era il professor Ernest Reinhardt, e in Puccini, dove interpretò l'editore musicale Giulio Ricordi), oltre a varie pellicole destinate al cinema, nonché nel doppiaggio.