该遗址建于清康熙年间（1680年前后），乾隆六十年（1795年）、咸丰二年（1852年）、光绪五年（1879年）、民国三十五年（1946年）及1987年重修。庙内供奉西汉大将路博德、东汉大将马援，由此得名。

霄边地处东莞与宝安交界处，是宝（安）太（平）线上的交通要道，并凭借将军山居高临下的险要地势而成为抗日战争时期敌我争夺的一个军事要地。日伪军以将军山山腰的伏波将军庙为据点，构筑坚固的防御工事。日伪军的这个据点，一方面严重威胁着大岭山抗日游击根据地的安全，另一方面就像一颗钉子卡在宝太线上，严重阻碍了大岭山与阳台山两个抗日游击根据地的联系。因此，广东人民抗日游击队东江纵队决心拔掉日伪军布防在将军山的据点。

1944年2月，东江纵队主力部队第五大队奉命攻打将军山，由黄辉中队执行主攻任务。2月13日凌晨，经过30分钟的激烈战斗，全歼伪军第30师119团一个重机-连，缴获重机-2挺、轻机-1挺、长-40余支，毙伤敌10人，俘敌30余人。此战，长安当地中共组织发动民兵150余人配合战斗。同年6月5日，东江纵队第五大队和宝安大队在民兵的配合下袭击驻霄边伪军第30师88团一个营，毙敌8人，伤敌7人。第五大队牺牲中队长黄辉以下官兵15人，负伤11人。同年10月25日，东江纵队主力部队第一支队袭击霄边，俘伪军15人，收复霄边，并击退伪军麦浩部及伪军第45师一部的进犯。东江纵队三打将军山，均取得胜利。

三打霄边战斗遗址的核心建筑物伏波将军庙，于2004年1月被公布为东莞市文物保护单位。