1976年から1996年度にかけて発掘調査が行われ、７世紀に創建された寺院のほぼ全容が明らかにされ、伽藍配置は中心部に塔、金堂を南北に並べて回廊で囲み、その北に講堂､講堂の北と東西に僧房などを配置していたことがわかる。1982年から始まった調査では、東回廊が横倒しの状態でほぼ完全な形で発見されたほか、出土遺物の中には、金箔を施した塼仏、彩色が施された垂木先瓦、垂木に固定する釘を隠すように取り付けられた金色のフタなどがあり、当時の華麗な寺の趣を伺い知ることができる。
また12世紀には興福寺の僧兵が乱入し本尊の薬師三尊像を奪ったと『玉葉』に記されている。現在興福寺の国宝館にある仏頭は山田寺の薬師如来の頭部で、脇侍の日光菩薩・月光菩薩は興福寺東金堂に安置されている。