วัดคู่บ้านคู่เมืองจังหวัดยโสธร มีพระธาตุยโสธร หรือพระธาตุอานนท์ตั้งอยู่หน้าอุโบสถ ถือว่าเป็นพระธาตุเก่าแก่ที่สำคัญมากองค์หนึ่งในภาคอีสาน โดยส่วนยอดเจดีย์ทรงสี่เหลี่ยมมีความคล้ายคลึงกับพระธาตุพนม ภายในพระธาตุเป็นที่บรรจุอัฐิธาตุของพระอานนท์ สร้างโดยได้รับอิทธิพลมาจากศิลปะลาวที่นิยมสร้างกันในปลายสมัยกรุงศรีอยุธยาถึงต้นรัตนโกสินทร์ ซึ่งตรงกับประวัติการตั้งเมืองและประวัติของวัดมหาธาตุฉบับหนึ่งว่าสร้างราวปีพ.ศ. 2321 โดยท้าวหน้า ท้าวคำสิงห์ ท้าวคำผา ซึ่งเดิมเป็นเสนาบดีเก่าของกรุงศรีสัตนาคนหุต (เวียงจันทน์) ต่อมาได้อพยพผู้คนภายใต้การนำของพระวอ พระตา ช่วงประมาณกว่า 200 ปี มาตั้งถิ่นฐาน ณ ที่นี้ และทางวัดจะจัดให้มีงานสมโภชพระธาตุอานนท์ขึ้นเป็นประจำทุกปีในเดือนมีนาคม