इस क्षेत्र के अन्य मंदिरो से अलग, इस मंदिर की संरचना खुले आंगन को घेरे हुए झोपड़ियों जैसी है। यह पश्चिमी मंदिरो के समूह का हिस्सा है और इसका निर्माण 875-900 ईस्वी में किया गया था। यह मंदिर 64 योगिनिओं (महिला परिचारिकाओं) पर समर्पित है, जिन्हें देवी का रूप माना जाता है।

यह मंदिर काफी अलग है और इसका निर्माण स्थानीय ग्रेनाइट से हुआ है। इसकी वास्तुकला काफी सरल है और इसमें किसी अलंकरण का इस्तेमाल नहीं किया है। दीवारें ज्यादा तर खाली हैं और खजुराहो के दूसरे मंदिरों की तरह विशिष्ट नक्काशी यहां देखने को नहीं मिलती। मंदिर में कुल 67 पवित्र स्थान और सबसे बड़ा स्थान माता दुर्गा को समर्पित है, जिसमें उन्हें महिषासुर मर्दिनी के रूप में प्रस्तुत किया गया है। दो पवित्र स्थान महेश्वरी और मातृकास ब्राह्मणी को समर्पित हैं, और अन्य 64 योगिनियों को समर्पित हैं। यह मंदिर भारत का सबसे प्राचीन योगिनी मंदिर माना जाता है।