Neil Diamond nasceu no Brooklyn, na cidade de Nova York, em uma família judia. Todos os quatro de seus avós eram imigrantes, da Polônia por parte de pai e da Rússia por parte de mãe. Seus pais eram Rose,  nascida em Rapoport em 1918 e faleceu em 2019 e Akeeba apelido do pai que se chamava "Kieve" Diamond que nasceu em 1917 e faleceu em 1985, seu pai  tinha uma loja e era comerciante de produtos secos. Ele cresceu em várias casas no Brooklyn, tendo também passado quatro anos em Cheyenne no Wyoming, onde seu pai estava servindo no exército. No Brooklyn, ele estudou na Erasmus Hall High School e foi membro do Freshman Chorus and Choral Club, junto com a colega de classe Barbra Streisand. Diamond lembrou que eles não eram amigos íntimos na época: "Éramos duas crianças pobres do Brooklyn. Ele disse que eles ficavam na frente da Erasmus High fumando cigarros. "Também em sua classe estudava o grande mestre de xadrez Bobby Fischer. Depois que sua família se mudou para Brighton Beach, ele frequentou a Abraham Lincoln High School e foi membro da equipe de esgrima.  Também na equipe estava seu melhor amigo, futuro esgrimista olímpico, Erva Cohen. Em seu aniversário de 16 anos, ele ganhou seu primeiro violão.