四万温泉の名前は、四万の湯が『四万(よんまん)の病を癒す霊泉』であるとする伝説に由来します。
四万温泉の起源は二説あり、一つは桓武天皇(737〜806)の御代に征夷大将軍として蝦夷征伐に来た坂上田村麻呂が、 この地で入浴したことが始まりという物です。
もう一つは、延暦年間(782〜806)に源頼光の家臣で、渡辺綱、坂田金時、卜部季武と共に四天王として勇名を轟かせた日向守碓氷貞光が、 越後から上野国に越えるときにこの四万の地に訪れて、山のたたずまいや谷川の響きに心を澄まし、夜もすがら読経をした。 夜半の頃、どこからともなく童子があらわれていうのに、
『汝が読経の誠心に感じて四万「よんまん」の病悩を治する霊泉を授ける。我はこの山の神霊なり。』
夢うつつにこの神託を聞いた貞光は、覚めて後に湧出する温泉を見つけた。
この事に感じた貞光は、一宇の堂を建立して自らの守本尊の薬師如来を安置し、日向守貞光寺薬師瑠璃如来と号し、温泉は「御夢想の湯」と呼び、神託にちなんでこの地を四万「しま」の郷と名付けたという伝説です。

四万温泉は昭和29年に国民保養温泉地の第一号に指定されました。 (同じ時に青森県の酸ヶ湯温泉、栃木県の日光湯元温泉の三温泉地が指定されました。)
国民保養温泉地とは、以下のような条件を満たした上で、すぐれた温泉地として環境省により指定されます。
・温泉の効能が顕著であること
・湧出量が豊富であること
・利用上適当な温度を有すること
・環境衛生的条件が良好であること
・付近一帯の景観が優れていること
・適切な医療施設及び休養施設を有するか将来施設し得ること
・医学的立場から適正な温泉利用、健康管理について指導を行う顧問医が設置されていること
・交通が比較的便利であるか又は便利になる可能性のあること
・災害に対し安全であること

永禄六年に四万温泉・山口地区で田村甚五郎氏が湯宿を開いたのが最初とされています。
その後、甚五郎氏の孫により新湯に湯宿に開業したと伝えられています。
古文書の「湯銭取立て帳」によると天和年間(1681〜1684)には、温泉宿経営が成立していたことが明らかであり、 湯治客は県内各地はもとより武蔵国殊に江戸者の来遊があったことも記されています。
また別の古文書によると、宝暦年間には山口地区に浴場が２ヶ所、滝湯が二ヶ所、湯宿十軒、貸座敷有り、 新湯地区には浴場四ヶ所、蒸し湯四ヶ所、滝一ヶ所、湯宿七軒、貸座敷有りと記されています。
当時の湯場は個人の湯宿で独占したのではなく、共同湯に入湯していたそうです。 このことは、現在でも共同湯が四万温泉内各地区にあることにつながっている伝統だと思われます。
幕末から明治初頭の四万温泉はさびれた状況であったようですが、温泉組合が成立する明治二十一年頃から賑やかになり、 明治後半には街道の道路整備(明治二十二年に中之条・四万間に県道が開通)もされて新湯を中心に湯治場として盛りになったようです。
上記の道路開通により、中之条より人力車・馬車が通るようになり、その後馬車会社が設立されるなど交通の発達に伴って、 浴客が増加し四万温泉は活況を見せたようです。(参考:四万温泉史)