Johnny Cash grabó 'Hymns from the Heart' en los estudios de Columbia en Nashville, Tennessee, en abril de 1962. El álbum fue producido por Frank Jones y Don Law, quienes trabajaron estrechamente con Cash para crear un disco de himnos gospel tradicionales. Las sesiones incluyeron arreglos vocales con el grupo The Carter Family y el pianista Floyd Cramer.
El álbum fue lanzado en 1962 por Columbia Records, alcanzando el puesto número 10 en la lista de álbumes country de Billboard. A diferencia de otros trabajos gospel de Cash, este disco se centró exclusivamente en himnos clásicos como 'Just As I Am' y 'I'll Fly Away', sin incluir composiciones originales. La portada muestra a Cash con una Biblia abierta, reflejando su fe cristiana.
Aunque no fue uno de los álbumes más vendidos de Cash, 'Hymns from the Heart' es considerado por los crÃticos como una de sus grabaciones gospel más sinceras. Cash habÃa lanzado previamente 'Hymns by Johnny Cash' en 1959, y este álbum continuó su tradición de música religiosa, que mantuvo a lo largo de su carrera. Las grabaciones originales fueron remasterizadas y reeditadas en CD en 2002 por Columbia/Legacy.