اين مسجد جامع در قرن ششم هجري قمري و به دستور گرشاسب از نوادگان «علاء الدوله کالنجار» ساخته شد ولي بناي اصلي مسجد کنوني از آثار «سيد رکن الدين محمد قاضي» است.
بناي اين مسجد با عظمت قرنهاست که از فراسوي تاريخ تمدن اين سرزمين مي‌درخشد به نحوي که در کتب تاريخي يزد آمده است: «مسجد را بر جاي آتشگاه ساساني ساخته‌اند و سنگ بناي آن توسط علاء الدوله گرشاسب نهاده شده است.»
اين مسجد به عنوان يكي از نمادهاي ملي كه از نخستين بناهاي عظيم و پر قدمت کشور است به شمار مي‌رود به نحوي كه اصيل‌ترين بخش‌هاي هنر معماري بي‌نظير ايراني در گچ کاري، شبستان، صحن، گنبد، کاشي‌کاري و مناره هاي برافراشته آن جلوه‌گر است.
زيباترين بخش اين بنا را مي توان مجموعه ايوان و گنبدخانه و فضاي پيرامون آن نام برد. نماي ايوان بلند با مجموعه‌اي از زيباترين تزئينات کاشي معرق و نقوش اسليمي و گياهي همچنين گره چيني پوشانده شده است.
اين تزئينات با آجرهاي ضربي و نقوش معلقي و کتيبه‌هاي کاشي معرق و کوفي بنايي، مجموعه‌اي بديع و خيره‌کننده آفريده که تحسين هر بيننده‌اي را برمي‌انگيزد.
محراب اصلي يا محراب واقع در گنبدخانه، مزين به انواع کاشي معرق و کتيبه و آجر ضربي است و بر دو کاشي ستاره‌اي شکل منصوب در آن، نام استادکار و تاريخ ساخت محراب نقش بسته است.
گنبد زيباي مسجد از نوع دو پوسته پيوسته بوده و بر آن، نقش گل صابونکي معقلي با ظرافت اجرا شده و بر ساقه آن عبارت «الملک الله» به خط کوفي تکرار شده است.
دو مناره مسجد که ارتقاع تقريبي آنها از کف تا نوک به بيش از 52 متر مي‌رسد و گنبد مسجد كه قطر آن حدود هشت متر است در دوره صفوي به بنا افزوده شده اما در سال 1313 هجري شمسي فرو ريخته و دوباره تجديد بنا شده است.
بلنداي مناره‌ها و اين که کاشي کاري منحصر به فردي حتي در اوج مناره‌ها انجام شده، تعجب همگان را بر مي‌انگيزد زيرا اين مناره‌ها هرچه به سمت بالا رفته باريک‌تر شده و اين در حالي است كه تنها يکي از آنها داراي پلکان است، از اين رو ظرافت کاشي کاري در اين ارتفاع به واقع قابل تحسين است.