奈良時代天平年間、高僧行基菩薩が全国に仏教を布教する為国内行脚の際、
自ら彫った阿弥陀如来を納めるお堂を建立されたのが、当寺の開基であります。
このお堂は、後に「正覚寺」というお寺になり、現在の久保田字太郎殿地内に広大な伽藍を有する大寺院になりました。
これが阿弥陀寺の前身です。
安積郡内は南北朝期に室町幕府奥州探題篠川（笹川）御所、宇津峯城を廻っての戦い、戦国時代の郡山の合戦等、幾度かの戦場となりました。
正覚寺もその災いを被り、広大な堂塔伽藍ことごとく炎上いたしました。
その際幸いにもご本尊阿弥陀如来は、僧侶の手によって地中深く埋められ、難を免れたのであります。
後に檀越今泉家の手によって当寺に遷座され、当時、当地方に進出していた大名佐竹氏により天正二年（一五七四）に真言宗の寺として中興開山、その後二度の火災に遭いながらも、ご本尊と過去帳は、そのたびごとに難を免れて、今日に至り、歴代住職は、法灯を伝えております。