Después de que su debut, «Wednesday Morning, 3 A.M.», no despertara mucho interés; los dos miembros de Simon & Garfunkel tomaron caminos separados. Sin embargo, después de que el productor Tom Wilson sobregrabó una banda de rock en una de sus canciones, «The Sounds of Silence»; y tuvo un éxito número 1, el dúo volvió a estar junto. Su segundo álbum, «Sounds of Silence»; fue lanzado el 17 de enero de 1966.
Fue una declaración perfecta del sonido folk-rock, incorporando la verdad y el alma del mundo folk con la amplificación y el estilo del mundo musical posterior a los Beatles. Simon & Garfunkel se convirtieron rápidamente en actores clave del movimiento.
El álbum se abre con la canción principal; que sigue siendo uno de los discos más importantes de su tiempo, pero Art Garfunkel no quedó totalmente cautivado por el nuevo sonido. «Fue en ese estilo eléctrico de 12 cuerdas de los Byrds», le dijo a Blue Railroad. «Es lindo. Han ahogado la fuerza de la letra y la han convertido más en una producción de moda».
El LP, sin embargo, estuvo lejos de ser una maravilla de un solo éxito; y el estilo folk original del dúo no se abandonó por completo. Canciones como «Kathy’s Song» y «April Come She Will» conservan la sensación de guitarra y voz del primer álbum. Otra canción, «Anji», fue un instrumento escrito por el guitarrista de folk británico Davy Graham, y fue un escaparate de la puntería acústica de Paul Simon.
«Tenía 21 años cuando escribí esta canción / Tengo 22 ahora pero no los tendré por mucho tiempo», canta Simon en «Leaves That Are Green», mostrando el espíritu de un alma vieja en el trabajo a pesar de su corta edad. «Blessed» es uno de los aspectos más destacados con sus líneas de guitarra brillantes y tintineantes y algunas de las mejores letras tempranas de Simon. «Somewhere They Can’t Find Me» es otro número de banda completa en el que Simon entreteje algunos guiños de jazz en la mezcla.
Uno de los cortes más oscuros del álbum es también uno de los más rockeros. «Richard Cory» pinta un retrato de la desilusión de la clase trabajadora, solo para que el protagonista se dé cuenta de que la hierba no siempre es más verde. La canción se basó, en parte, en el poema de Edwin Arlington Robinson de 1897 del mismo nombre, tomando prestada la última línea clave de «Richard Cory se fue a casa anoche y se metió una bala en la cabeza». Mientras tanto, «A Most Peculiar Man» también trata el tema del suicidio. Incluso se acercan al territorio de una banda de garaje genuina en «We’ve Got a Groovy Thing Goin'», pero es la canción final del álbum la que apunta a un futuro prolífico.
«I Am a Rock» termina el álbum de una manera tan profunda como lo comienza la canción principal, lo que demuestra que Simon tenía más de donde provino. Una de sus mejores canciones, el disco captura todo el sonido folk-rock de 1965. Desde las guitarras tintineantes hasta el órgano Hammond tan destacado en la piedra de toque de la época, «Like a Rolling Stone» de Bob Dylan. Pero Simon difícilmente era un ladrón de pintura por números y la canción termina el paseo corto pero dulce a la perfección.
Seis de las canciones de «Sounds of Silence» ya habían aparecido en otro álbum. En la primavera de 1965, mientras vivía en Inglaterra después de que el dúo se separara, Simon publicó «The Paul Simon Songbook», que lo presentaba interpretando sus canciones solo con su guitarra. El álbum solo estuvo disponible en Inglaterra y no se escuchó en Estados Unidos hasta los años 80.