因为史书没有记载张辽埋在哪里，张辽墓只是一个纪念性的墓地，不是真正的墓地。
公元215年曹操率兵西征张鲁，孙权趁机率领十万大军进围合肥。当时魏军主力远在汉中，江淮一带兵力空虚，无法派遣援兵。张辽募集精锐将士八百人，亲自先登直陷敌阵，冲入东吴的营垒，一直冲杀到孙权的主帅旗之下。孙权大惊，东吴将士也惊慌失措，于是，孙权等人逃跑到一座较高的山冢上，用长戟来自卫。
张辽见敌方主帅退避，便叱喝孙权，挑衅他下来对战。但孙权没有轻举妄动，随后孙权发现张辽所率领的士兵非常少，于是聚拢东吴军队将张辽的部队重重包围。张辽的军队分别向左向右驱逐围兵，然后径直向前实施“急击”，将东吴的包围圈打开。孙权军队皆望风披靡。
这次战斗，双方从凌晨战到中午，吴军士气全失，回军修整守备，合肥守军的军心因为首战大胜而安定了下来。曹操得知此战，对张辽的表现大加赞许，并拜张辽为征东将军。史载“太祖大壮辽”，德以一城敌一国，一人打残东吴八虎臣。
《三国志》记载“孙权围合肥，张辽、李典击破之”，《魏书》记载“孙权率十万众围合肥，辽募其敢死者八百人，登锋陷阵，大破之”，《魏略》记载“张辽为孙权所围，辽溃围出，复入，权众破走”。
公元222年张辽病逝于江都。从此再也没有记载张辽的信息，埋在哪里无人知晓。
为纪念合肥之战，张辽率八百将士袭击东吴十万大军，大破孙权、甘宁、凌统等，差点活捉孙权的事迹，当地给张辽建立衣冠冢。
