وی از مجتهدان و مراجع تقلید شیعه و بنیانگذار حوزه علمیه قم بود و از سال ۱۳۰۱ تا سال ۱۳۱۵ ریاست تامّه و مرجعیت کامل شیعیان را بر عهده داشت.
مرحوم آیت الله حائری در سال 1276 در یکی از قراء اردکان یزد به جهان دیده گشود و در اردکان و یزد تحصیلات مقدماتی و سطوح فقه و اصول را به پایان برد و در عنفوان جوانی عازم عتبات گردید و به حوزه درس امام مجدد و سید استاد پیوست.
وی پس از فوت این دو بزرگوار در نجف اشرف از محضر آخوند خراسانی و علامه یزدی تحصیلات خارج فقه خود را ادامه داد و به درجه اجتهاد و کمال فقاهت رسید.
مرحوم عبدالکریم حائری یزدی در نجف و کربلا از مدرسین بزرگ بود که بنا به دعوت علما و رجال بزرگ در سال 1332 به شهرستان اراک دعوت شد و مدت 8 سال در این شهر به تشکیل حوزه مناسب موفق شد که از بلاد مختلف و خود این شهر فضلائی متعدد گرد شمع وجودش را گرفتند.
قبل از سال 1340 ضمن مسافرت به قم، مردم و اعلام بزرگ به سجایای اخلاقی و مراتب علمی او آگاه شدند و در نوروز سال 1340 که به قصد زیارت و مسافرت عازم قم بود، استقبال گرمی از او به عمل آمد و مردم به خصوص علما با آغوش باز پذیرای او شدند و همگان گرد شمع وجودش را گرفتند و در جلسات و سخنرانیها خطبا و علما با نطقهای متعدد خود خواستار اقامت او در شهر خون و قیام شدند.
آیت الله مرتضی حائری یزدی و آیتالله مهدی حائری یزدی 2 فرزند بزرگوار مرحوم عبدالکریم حائری یزدی هستند.
مرحوم عبدالکریم حائری یزدی سرانجام در شب هفدهم ذیقعده سال 1355 برابر با 1315 شمسی جهان فانی را وداع گفت و در جوار آرامگاه حضرت معصومه(س) به خاک سپرده شد.