『新編武蔵風土記稿』に、日本武尊と御岳山にまつわる伝説が記されています。
・日本武尊が東征の折、奥の院あたりで大きな白鹿に行く手を阻まれるが、太占により邪神であることを突き止め退治。邪神の遺した雲霧に道を失うが、突如現れた白狼に導かれ救われる。尊は、その白狼にこの地を守護するよう命じたところ、畏まった白狼は御岳山へと還り、火難盗難退除の守護神となった。
・尊が東征の帰路、奥の院に戻られた際、永きに亘る戦乱の旅を終えて、この国が千年先、万代の後も変わらず平和であるよう祈ったことが、国家鎮護の社と云われる由縁である。
・このとき、「武」具（甲冑）を脱いで「蔵（おさ）」めたことが「武蔵（むさし）」という国名の由来である。このことから山の名は甲冑（≒こうら）にちなんで「甲籠山（高良山）」とも呼ばれるようになった。
社伝によれば、守護神となる白狼に「大口真神」という名を与えたのも日本武尊だとされています。

『古事記』の東征では、妃である弟橘姫（おとたちばなひめ）が、荒れ狂う海神の怒りを収めるべく入水し波を鎮めたことで、無事に海路を進むことができた。妃の犠牲のうえに東征を成し遂げることが出来たのである。その帰路、東国を振り返りながら「吾妻はや（我が妻よ）」と言ったことが、この地が「あづま」と呼ばれる由来になった記されています。
奥の院の中腹には、弟橘姫さまを祀る石碑があります。奥の院へと登る神職は必ず石碑をお参りしてから山頂を目指します。

東征を終えて大和に帰った尊が、「大和は国のまほろば　たたなづく青垣　山隠（やまごも）れる　大和しうるわし」と詠んだことからも分かるように、尊はこよなく大和を愛していたのです。