元禄十一年（1698年）山火事により古記録等を焼失せるにより不詳なれども、社伝によれば、第五十五代文徳天皇の御世の仁寿二年（852年）、現社家の遠祖穂積保昌が山城国（現京都府）よりこの地に来たり、里人に麻の栽培を教え、且つ、一族の尊崇せる日月星の三光神即ち天照大御神・天之御中主神・月読神の三神を清水湧く三峡の岩窟中に奉祀せしが本社の創始と伝え、社名・地名も麻の栽培より起こり、神紋も又麻の葉を用いる。 

仙台藩封内風土記（1772年成立）にも、「岩切巴　本巴山中青麻と号する地あり、往古この地を青麻と植う　故に以て地名と為す岩窟あり高さ一丈余...」と記している。天和二年（1682年）、源義経家臣なりし常陸坊海尊（清悦仙人と称する）下野国（栃木県）出流山大日窟よりこの地に至り霊験を顕し給いしにより併祀する。古来より中風病退除（常陸坊海尊の霊験による）・海上安全（穂積一族が水運に携わっていたことに因む）等の特殊信仰があり、「三度詣でれば生涯中風の難よりのがれる」と伝えられ、各地青麻神社の総本社である。 

古くは、青麻岩戸三光宮、青麻権現社、嵯峨神社などとも称し、中世から近世の古図や文献にも記載が見える。安永五年（1776年）、現社家を遡る十代祖鈴木義衛門は神祇伯白川家より神主許状と対馬の称号を賜る。その子対馬保義に至り、彌々青麻神社の奉斎と社地の整備さらに神徳の普及と講中の組織化と拡充をすすめ、傍ら、社人を以て青麻・入菅谷村付近の山地に四十万余の植樹造林事業を起こして国用を助け、その功は寛政十三年（1801年）・文化五年（1808年）の二度にわたり仙台藩より褒賞に與っている。