วัดพระธาตุนารายณ์เจงเวง สร้างขึ้นพร้อมกันกับ ""พระธาตุนารายณ์เจงเวง"" หรือ ""อรดีมายานารายณ์เจงเวง"" โดยชื่อนี้ได้ตั้งตามผู้สร้างโดยกลุ่มสตรีของพระนางนาเวงแห่งเมืองหนองหานหลวง ซึ่งได้มีการแข่งขันกับกลุ่มบุรุษชาวเมืองหนองหานน้อย เพื่อรอรับพระพระมหากัสสปะเถระ ผู้ที่นำพระอุรังคธาตุไปบรรจุยังดอยภูกำพร้า โดยตกลงกันว่าหากฝ่ายหนึ่งฝ่ายใดสามารถสร้างพระธาตุเจดีย์ใหญ่เสร็จก่อนดาวเพ็กขึ้นฝ่ายนั้นจะเป็นผู้ชนะ ตามตำนานอุรังคธาตุกล่าวถึงโบราณสถานแห่งนี้ว่า เมื่อพระมหากัสสปเถระและบริวารเดินทางมาถึงเมืองหนองหานหลวง กลุ่มสตรีชาวเมืองหนองหานได้ทูลขอแบ่งอุรังคธาตุ (กระดูกหน้าอก)ของสมเด็จพระสัมมาสัมพุทธเจ้า แต่พระมหาเถระผู้ใหญ่มิได้ทรงอนุญาตด้วยผิดวัตถุประสงค์ที่พระพุทธองค์ที่ตรัสไว้ให้นำอุรังคธาตุไปประดิษฐานบรรจุเจดีย์ที่ภูกำพร้า กลางลำน้ำโขง (พระธาตุพนม) แต่มิให้เสียศรัทธา พระมหากัสสัปะเถระผู้ใหญ่จึงมอบให้พระอรหันต์รูปหนึ่งไปนำพระอังคารธาตุจากที่ถวายเพลิงพระศพสมเด็จพระสัมมาสัมพุทธเจ้ามาประดิษฐานไว้ในพระเจดีย์แห่งนี้ จึงนับว่าพระธาตุนารายณ์เจงเวงเป็นโบราณสถานที่สำคัญของเมืองสกลนคร