日本に帰った空海は、20年の中国で勉強するやくそくを2年で切り上げたことをとがめられ、なかなか京に入ることを許されませんでした。3年近く待たされた後、京に入ることを許され、高尾山寺（たかおさんじ）にすむことになりました。
810年、国の安全と平和を祈るための修法（しゅほう：密教の儀式）を行った空海は、朝廷（ちょうてい）からみとめられるようになりました。 812年には、金剛界結縁灌頂（こんごうかいけちえかんじょう）、胎蔵界結縁灌頂（たいぞうかいけちえかんじょう）という密教を伝えるための大きな儀式を行い、弟子が増えていきました。 813年、真言密教（真言宗）の教えをひろめるための団体をつくり、教団（きょうだん）のかたちが少しずつできあがりました。空海は弟子たちとともに全国を旅してまわり、こまっている人たちにすくいの手をさしのべながら真言宗の教えをひろめていきました。
空海は嵯峨天皇（さがてんのう）（在位809～823）からとても信頼され、高野山（こうやさん）に真言宗の修行のための道場（どうじょう）をつくるお許しをいただきました。819年に建った寺は「金剛峰寺」（こんごうぶじ）と名づけられましたが、すべての建物が完成したのは数十年後でした。
823年、嵯峨天皇は空海に、建設中だった京都の東寺（とうじ）を完成させるよう命じました。空海は東寺を足場にして真言宗をさらにひろめました。 835年空海は東寺、神護寺（じんごじ）、東大寺真言院（とうだいじしんごんいん）を弟子たちにまかせたあと、穀物（こくもつ：米や麦など）を食べない修行にはいりました。
そして、「56億7000万年ののち、弥勒菩薩（みろくぼさつ）がこの世に出られるまで、生きとし生けるものすべてを見守る」とやくそくして、入定（にゅうじょう：仏の世界へはいること）し、弟子たちの前からすがたを消しました。
その後921年に空海のなしとげた仕事をたたえて醍醐天皇（だいごてんのう）より弘法大師（こうぼうだいし）という名前がおくられました。