کودکی او مصادف با دوران سیاه ستمشاهی بود، و از همان زمان با افکار سبز و روشن اسلام پیوندی عاشقانه یافت.
وی ارتباط تنگاتنگ خویش را با کوثر زلال وحی از همان سنین حفظ کرد و تفسیر قرآن و درس اخلاق را از برنامه‌های مهم خویش قرار داده و با علاقه و ارادتی که به نماز داشت مرید و مؤذن مسجد شد.
هاشمی پس از پیروزی انقلاب با تکیه بر مطالعات عمیق و آگاهی‌های دینی خود در بحث‌های گروهک‌های مختلف شرکت کرد و با بحث‌های منطقی آنان را به تسلیم در برابر اسلام وا داشت.
وی از همان زمان ابتدا عاشق و دلباخته امام (ره) و پیشتاز مبارزه بود و به همین دلیل به قصد خدمت به نظام وارد کمیته انتقلاب شد و سپس به همراه حسین علم الهدی، آقایی و .... جهت تشکیل بسیج و سپاه تلاش‌های بسیاری کرد.
زندگی در جنگ تحمیلی مرحله نوینی از دوران پرتلاطم حضور وی در دنیای خاکی بود. آنچنان که تمام طرح‌های عملیاتی‌اش را با تعداد اندکی نیرو با موفقیت به انجام می‌رساند.
با شروع جنگ تحمیلی علی هاشمی در محور «کرخه کور» و «طراح» به مقابله با پیشروی سپاه دشمن پرداخت و با شکل گیری یگان‌های رزم سپاه او مامور تشکیل تیپ 37 نور شد و با این یگان، در عملیات «الی بیت المقدس» در آزادی خرمشهر سهیم شد.
در آستانه عملیات والفجر مقدماتی تیپ 37 نور منحل شده و علی هاشمی فرمانده سپاه سوسنگرد رسید و بعدها، از دل همین سپاه منطقه ای بود که، «قرارگاه نصرت» پدید آمد. در سومین سال جنگ، محسن رضایی، علی هاشمی را به فرماندهی «قرارگاه سری نصرت» انتخاب کرد.
«عملیات خیبر» ثمره یک سال تلاش شبانه روزی نیروهای قرارگاه نصرت، تحت فرماندهی علی هاشمی بود. اولین عملیات آبی- خاکی جنگ و اولین عملیاتی که ده‌ها یگان رزمی سپاه، در سطحی بسیار وسیع توانستند باتلاق ها و نیزارهای منطقه هور را پشت سر بگذارند که این در نوع خود حرکتی بی نظیر و تاریخی بود.
وی در تیر ماه سال 66 به فرماندهی «سپاه ششم امام صادق» منصوب شد که چند تیپ و لشکر، بسیج و سپاه خوزستان، لرستان و پدافند منطقه هور از «کوشک» تا «چزابه» را در اختیار داشت.
روز چهارم تیر ماه سال 1367، متجاوزان بعثی، حمله‌ای گسترده و همه‌جانبه را برای بازپس‌گیری منطقه هور آغاز کردند. حاج علی در آن زمان، در قرارگاه خاتم4، در ضلع شمال شرقی جزیره مجنون شمالی مستقر شده بود.
هیچ کس به درستی نمی داند که در این روز دردناک، چه بر سر سرداران «قرارگاه نصرت» آمد. شاهدان می‌گفتند که هلی‌کوپترهای عراقی در فاصله کمی از قرارگاه خاتم4 به زمین نشسته‌اند و حاج علی و همراهانش سراسیمه از قرارگاه خارج شده و در نیزارها پناه گرفتند و دیگر هیچ.
پس از آن، جستجوی دامنه‌داری برای یافتن حاج علی هاشمی آغاز شد اما به نتیجه ای نرسید. از طرف دیگر، بیم آن می‌رفت که افشای ناپدید شدن یک سردار عالی رتبه سپاه، جان او را که احتمالا به اسارت درآمده بود به خطر بیاندازد، به همین سبب تا سال‌ها پس از پایان جنگ، نام حاج علی هاشمی کمتر برده می‌شد و از سرنوشت احتمالی او با حزم و احتیاط فراوانی سخن به میان می‌آمد. نه مراسمی برایش گرفته شد، نه یادواره‌ای برایش برگزار شد و نه یادمانی به نامش برپا گردید. اما پس از سقوط صدام هم خبری از سرنوشت فرمانده سپاه ششم به دست نیامد.
سرانجام در روز 19 اردیبهشت سال 1389، اخبار سراسری سیما خبر کشف پیکر حاج علی هاشمی را اعلام کرد و مادر صبور او پس از 22 سال انتظار، بقایای پیکر فرزند خود را در آغوش کشید.
پیکر مطهر سردار شهید علی هاشمی و شهیدان دیگری از سال‌های دفاع مقدس 24 اردیبهشت سال 1389، از محل نماز جمعه تهران تشییع شد.