A 3 de julho de 1954, Cash é dispensado da Força Aérea, a 7 de agosto do mesmo ano casa-se com Vivian Liberto e estabelece o seu lar em Memphis. O seu irmão mais velho arranja-lhe um emprego como vendedor de maquinaria.

Numa tentativa de entrar no negócio da música, Cash faz audições para se tornar locutor de uma rádio em Corith, Mississippi, acabando por ser rejeitado devido à falta de experiência. Utilizando os benefícios ganhos pelo estatuto de militar, Cash inscreve-se na escola de radiodifusão Keegan em Memphis

Alguns dias após sair de serviço, Johnny Cash visitou o seu irmão mais velho, Roy, em Memphis que trabalhava na fábrica da Chevrolet com mais três mecânicos que costumavam tocar juntos em casa, pequenos concertos de beneficência e manhãs de domingos numa rádio. Um destes três, era Luther Perkins, que posteriormente iria desenvolver o som de guitarra que complementava a voz característica de Cash, e outro era Marshall Perkins. Os três decidiram juntar-se para tentar tornarem-se músicos profissionais. Tentaram abordar a Sun Records, mas Sam Phillips estava ocupado a promover o primeiro álbum de Elvis Presley. Acabaram por fazer audições para a Phillips em março de 1955.

Após assinar com a Sun, o grupo consegue o seu primeiro sucesso com a música country, I Walk the Line em 1956 (vídeo em baixo). Nos anos seguintes lançam diversas músicas que atingiram o topo das tabelas como Ballad of a Teenage Queen e Guess Things Happen That Way em 1958. É nesse ano que o grupo ganha o nome Johnny Cash and the Tennessee Three, após a audição de W.S. Holland, um dos primeiros bateristas country de sempre.

Em agosto de 1958,o grupo assina com a Columbia Records, onde lançaram músicas de sucesso moderado como Don't Take Your Guns to Town. Em 1961 Cash começa a trabalhar com June Carter da lendária família Carter. Ao sentir o stress provocado por digressões constantes, o fim do seu primeiro casamento e a morte do seu amigo Johnny Horton, Cash começa a tomar metanfetaminas e tranquilizantes. É em 1963 que Cash consegue o seu primeiro grande sucesso pop com a música Ring of Fire

Em 1964 aparece com Bob Dylan no festival Newport Folk Festival e grava Bitter Tears, o seu tributo à vergonhosa situação de abuso que sofriam os índios americanos

Apesar do seu sucesso não parar de aumentar, a vida de Cash parecia deteriorar. Em outubro de 1965 é preso no aeroporto internacional de El Paso devido à posse de estimulantes e tranquilizantes. Após ser descoberto quase morto numa pequena cidade da Georgia em 1967, Cash decide reformar-se.

Posteriormente com o apoio moral da sua amiga June Carter, o músico recompõe-se e em conjunto lançam o grande sucesso Jackson em 1967 (vídeo em baixo) e casam-se a março de 1968. Luther Perkins more num acidente nesse mesmo ano e é substituído por Bob Wooten. Seguem-se diversos anos recheados de grandes êxitos e muitos concertos.

Em 1985 Cash junta-se a Waylon Jennings, Willie Nelson e Kris Kristofferson em digressão e para gravar um álbum como os Highwaymen. A banda consegue vários sucessos como The Highwaymen e Desperadoes Waiting for a Train.

Em 1986 Cash é despedido da Columbia Records após 28 anos. Assina então com a Mercury Records e muda-se para a American Records em 1993.

Ao longo dos anos Johnny representa alguns papéis dramáticos tanto no cinema (A Gunfight com Kirk Douglas -1970) como na televisão (Stagecoach – 1986) e ainda escreve uma novela (Man in White – 1986). Apesar de enfrentar alguns problemas de saúde (Cash fez um bypass duplo ao coração em 1988), Johnny continuou a fazer digressões com a sua mulher, June e o seu filho John Carter Cash. O músico é introduzido no Rock and Roll Hall of Fame em 1992.

Johnny Cash acabou por falecer devido a complicações com diabetes a 12 de setembro de 2003.