عبدالله که فرزند محبوب خانواده بود، از همان سال‌های کودکی از استادان فن، علم حدیث و تفسیر آموخت.
از جمله استادانش یحیی بن عمار شیبانی را نام بردهاند که از شیراز به هرات آمده و به تعلیم و تدریس مشغول بود و سعی داشت که سنت عرفا را با شریعت تطبیق دهد و این راه و روش در مشرب شاگردش نیز اثری پایدار به جا گذاشت.
بنا بر مشهور در همان سنین، به یمن حافظه قوی جلب نظر کرد و در کسب مقدمات و حفظ قرآن و اشعار عربی امتیازی یافت.
خواجه عبدالله انصاری در سال 417 قمری در سن 21 سالگی برای تکمیل تحصیلات به نیشابور رفت. سپس به طوس و بسطام سفر کرد و به سماع و ضبط حدیث همت گماشت.
در سال 423 عازم سفر حج شد و بر سر راه مکه در بغداد توقف کرد تا مجلس درس ابومحمد خلال بغدادی را درک کند. در بازگشت از سفر حج به زیارت ابوالحسن خرقانی، صوفی نامور نایل شد.
سرانجام به زادگاه خود بازگشت و در آنجا مقیم شد وبه تعلیم مریدان مشغول شد.
خواجه عبدالله که شیخ الاسلام لقب گرفته بود و مریدان بسیاری در هرات داشت در پایان عمر نابینا شد.
وی سال 467 شمسی در سن 82 سالگی درگذشت و در گازرگاه (10 کیلومتری هرات) به خاک سپرده شد.