据残存之‘魏故根法师碑’载，寺为根法师（？～523）所创建。碑文谓，根法师堪与鸠摩罗什、僧朗等一代高僧齐名，其门下学徒云集，钻研义学，修禅念道。值得注意者为本寺之名称，盖真谛于南朝梁元帝承圣二年（553）译出马鸣所著之大乘起信论，而本寺之建立早于此三十年。据此推知，本寺建立之时，马鸣之名已由大译经家佛陀扇多、菩提流支等人传至中国，故国人渐知印度大论师马鸣之名，非至真谛译出大乘起信论后之事。
故马鸣寺明朝以前香火很胜，明初洪武年间因为涉嫌对抗朝廷，被明朝军队毁掉。又村民沿传，明时寺内僧众地广，明末流民四起，遂毁于兵焚。
马鸣寺碑现藏于山东省博物馆。
其他四川绵阳中太镇华光寺村有一马鸣寺，主楼三层，毁于5.12地震，但其遗址香火依然旺盛。
登封马鸣寺：位于河南省登封市卢店镇与大冶镇交界的凤凰岭，传说建于汉（比少林寺早300年，但无法准确考证），于金大定十四年（1174年）重建。
