The feminine form of "Wizard" is Witch.

• Witch
- English Meaning: a woman who is believed to have magic powers, especially to do evil things.
- Bangla meaning: ডাইনি; (লাক্ষণিক) মোহিনী নারী।

• Wizard
- English Meaning: a man with magic powers.
- Bangla meaning: জাদুকর।

• Some examples:
Masculine ------------------------- Feminine
man (মানব) ----------------------- woman (মানবী)
master (প্রভু, শিক্ষক) ------------- mistress (প্রভুপত্নী, শিক্ষয়িত্রী)
monk, friar (মঠবাসী) ------------- nun (মঠবাসিনী, সন্ন্যাসিনী)
nephew (ভাইপো, ভাগ্নে) ---------- niece (ভাইঝি, ভাগ্নী)
ram, wether (ভেড়া) --------------- ewe (ভেড়ী)
sir, sire (জনাব) -------------------- madam (জনাবা)
sire (পশুদের সম্রাট) ---------------- dame (পশুদের সম্রাজ্ঞী)
sloven (নোংরা পোশাক পরা পুরুষ) --- slut (নোংরা মহিলা)
stag (হরিণ) --------------------------- hind (হরিণী)
swain (গ্রাম্য যুবক) -------------------- nymph (অল্পবয়স্কা মহিলা)
tailor (দরজী) -------------------------- seamstress (মহিলা দরজী)
widower (বিপত্নীক) ------------------- widow (বিধবা)
wizard (যাদুকর) ----------------------- witch (যাদুকরী)

Source: 1. A passage to the English Language by S.M. Zakir Hussain.
2. Oxford Learner's Dictionaries.
3. English & Bangla Online Dictionary & Grammar.