この2曲を両面にしたレコードは、昭和6年6月に発売された。6月15日に福島市の日野屋商店蓄音器部でレコード発売記念楽譜抽選会が行われ、20名に自筆の楽譜を贈呈している。古関は「二曲の吹込直しする事数回到底満足するに到らず再三オーケストレイシヨンを変へて、今度幾分意に満ちたものが出来上がり発表する事になつた次第です」という感謝の言葉を寄せている。
だが、古関自身が「私の最初のレコード『福島行進曲』『福島小夜曲』は、期待していたほどの成績は上げられなかった」というように、ヒットはしなかった。古関は流行作曲家の厳しさを感じたのである。
同郷の野村俊夫とは以降もともに曲をつくることになる。2人がつくった曲を同じく同郷の歌手・伊藤久男(山崎育三郎さん演じる佐藤久志のモデル)が歌うことになるのは、しばらく後のことだ。
鳴かず飛ばずの二人の取材旅行
コロムビアの専属作曲家となってから3年が経ってもヒット曲は出なかった。昭和9年4月、コロムビアの作家室で作詞家高橋掬太郎(きくたろう)(ノゾエ征爾演じる高梨一太郎のモデル)と話していたら、「何処(どこ)か取材旅行してヒット・ソングを作ろう」ということになった。高橋も昭和6年の「酒は涙か溜息か」の大ヒット以来、鳴かず飛ばずであった。
日帰りで茨城県の潮来(いたこ)を訪れた。二人きりで土浦から船に乗り、出島や一二橋などの水郷地帯を見て回った。一週間して高橋から「利根(とね)の舟唄」と「河原すすき」の歌詞を渡されている。高橋によれば、「潮来から佐原へ渡る途中だった。もう黄昏に近い大利根の流れを、流行の『島の娘』をうたい乍(なが)ら、小舟を漕いで行く若い男がいた。その歌声を聞いて、私達は作詩作曲の想いが湧いたのだった」という。
古関は、春の景色から秋を想起するのは難しかったが、「ひっそりとした潮来や静かな木々の影を映す狭い水路を思い浮かべると、私にはすぐにメロディーが浮かんだ」という。作曲が完成して編曲を奥山貞吉に依頼するときには、「間奏のメロディーには是非尺八を使ってください」と注文している。
昭和9年7月に発売されると、10万枚には達しなかったが、初のヒット曲となった。古関は高橋と「取材してよかったね」と喜びあっている。高橋も「古関裕而は、この一作で、流行歌への将来が展けた」と述べており、「利根の舟唄」は両者にとって忘れられない一曲となったのである。