就读于高中期间中川加入了一支夏威夷风格乐队，并由此爱上了音乐。所以他学会的第一样乐器并不是吉他，而是夏威夷的四弦乐器尤克里里琴。17岁时他开始演奏吉他。那时正逢他的朋友组了一个民谣组合，排练Peter, Paul & Mary（注：美国六十年代著名的民谣三人组）的作品。他们的表演给了年轻的中川很大的激励。 　　高中毕业后他加入了几个不同的民谣组合，和朋友一起，模仿Kingston Trio, Peter, Paul & Mary等人的风格。直到某天他与著名原创歌手西冈たかし（Nishioka Takashi）相识，并在1967年共同组建了闻名遐迩的日本民谣组“五只红气球”（五つの赤い风船）。 　　1969年，由于音乐发展方向上的分歧，中川离开了组合。从那之后，中川开始与许多知名的歌手合作演出、录音，与此同时，他也在自己的吉他音乐之路上不断探求。1972年，中川与村上律结成了二人组合“律和Isato”（律とイサト），所追求的音乐风格为美国老音乐。七三年之后，中川转以个人活动为中心。七六年他在日本开设了吉他学校，培养了一批吉他演奏者，经历十三年后，于1989年闭校。1970至2003年期间，中川共发行了19张专辑。在作曲和探寻吉他音乐新方向等方面也十分活跃。 　　 中川在德国的第一张专辑于1996年发行，同时他也参加了欧洲各地多场演奏会，并组织了原声吉他指弹风格的外国演奏家们共同巡演，如：Peter Finger, Jacques Stotzem, Preston Reed, Ed Gerhard, Martin Simpson, Tim Sparks, Sandor Szabo, Franco Morone和Don Ross等。 　　 他还对押尾光太郎产生了巨大影响（10岁教他吉他）。 　　 中川砂仁的部分学生： 　　中川砂仁作为日本指弹界的元老人物，培养了许多学生，其中不乏相当有名的后辈。 　　岸部真明(Masaaki Kishibe) 　　押尾光太郎(Kotaro Oshio) 　　下山亮平(Ryohei Shimoyama)。