تولد او در روز عید قربان سبب شد تا به او لقب حاجی علی اکبر خان یا حاجی مطلق می‌گفتند.
آقا علی‌اکبر خان فراهانی پدربزرگش، آقا حسینقلی پدرش و میرزا عبدالله فراهانی عمویش بود. عموی پدرش آقا غلامحسین از نوازندگان تار و استاد پدرش بود. پسر عمویش استاد احمد عبادی نوازندهٔ سه‌تار، دو برادر کوچک تر او محمدحسن و عبدالحسین شهنازی نوازندگان تار و همسران خواهرانش، باقر خان نوازنده کمانچه و رضا خان نوازنده تار بودند. تحصیلات خود را در مدرسه‌های سن لویی، اشراف و سعادت به پایان برد.
علی‌اکبر شهنازی، آموزش تار را از سن ۸ سالگی نزد پدرش آغاز کرد و در مدت ۶ سال ردیف موسیقی ایرانی را از پدرش آموخت. و مدتی از محضر درویش خان بهره برد. اولین صفحه‌اش را با جناب دماوندی در سن ۱۴ سالگی در بیات ترک و افشاری در تهران ضبط کرد. پس از درگذشت پدر در سال ۱۲۹۴، او در سن ۱۸ سالگی جانشین پدرش شد و آموزش شاگردان پدرش را به‌عهده گرفت. در سال‌های دههٔ ۱۳۰۰ معروفترین نوازندهٔ تار در تمام محافل هنری بود.در اواسط ۱۳۰۵ به دعوت کمپانی هیز ماسترز ویس صفحاتی از او با آواز اقبال آذر خواننده نامی دوران قاجار ضبط گردید. در سال ۱۳۰۸ هنرستان موسیقی شهنازی را تأسیس نمود. با تأسیس رادیو در برنامه‌های هفتگی موسیقی رادیو به همراه ادیب خوانساری، روح بخش و... نوازندگی می‌نمود. در سال ۱۳۳۴ در هنرستان آزاد موسیقی به آموزش مشغول شد. در سال ۱۳۴۱ ردیف آقا حسینقلی و در سال ۱۳۵۶ ردیف دوره عالی را ضبط کرد. این ردیف ها به سفارش وزارت فرهنگ و هنر وقت و زیر نظر عباس خوشدل ثبت و ضبط شد ابتدا قرار بود این ردیف‌ها با آواز ابراهیم خان بوذری همراه باشد، اما شهنازی در همان نخستین جلسه از همراهی با بوذری انصراف داد و نتیجه آن شد که هر کدامشان ردیفی جداگانه را ثبت و ضبط کردند.
نگاهی به ردیف آوازی به روایت ابراهیم‌خان بوذری
بعدها برخی از شاگردان او ردیف‌های نواخته شده توسط او را به صورت کتاب نت در آوردند که حبیب‌الله صالحی نخستین کسی بود که این کار را انجام داد، به گفته حسین علیزاده، صالحی نخستین خلیفه و شاگرد شهنازی بود ،به نحوی که وقتی گوشه‌آی از خاطرش می‌رفت به شاگردان می‌گفت به اتاق بغلی بروند و از صالحی دقیق‌ترش را یاد بگیرند.
رضا وهدانی اما نخستین کسی بود که در سال 1376 نت‌نوشته‌های او از ردیف شهنازی به صورت کتابی از سوی سازمان انتشاراتی جام روانه بازار شد.
4 سال بعد از او داریوش پیرنیاکان هم در سال 1380 این نواخته‌ها را در قالب نت از سوی انتشارات ماهور به بازار موسیقی و کتاب عرضه کرد.
علی‌اکبر شهنازی به جز تار، با سازهای دیگری از جمله سه‌تار و پیانو نیز آشنایی داشت.
از شاگردان وی می‌توان از حسن مشار، میرزا عیسی خان حاتم، باصرالدوله، منتظم الحکما (دکتر مهدی صلحی)، حاج آقا محمد ایرانی مجرد، جلیل الله صالحی، احمد نکوزاد، هوده‌ای، نصرالله زرین پنجه، هوشنگ ظریف، فرهنگ شریف، ژان دورینگ، رضا وهدانی، اسدالله حجازی، داریوش طلایی، محمد رضا لطفی ، حسین علیزاده ، عطاءالله جنگوک، داریوش پیرنیاکان و محسن نفر نام برد.
علی‌اکبرخان شهنازی ذهنی و حافظه‌ای شگفت‌انگیز داشت و در نقل ویژگی‌های حافظه او سید علیرضا میرعلنیقی، مورخ ومحقق تاریخ موسیقی ایران به سال‌های نوجوانی او اشاره می‌کند که هم پدر و هم عمویش(میرزا عبدالله) متفقا تصمیم می‌گیرند که او یک سالی نت نزد علینقی وزیری کار کند و سپس این ردیف‌ها را بزند که از قرار تنها ردیف چهارگاهی که او از نواخته‌های عمو و پدرش نت کرده باقی مانده است.
همچنین نقل است که مرحوم احمد عبادی درباره حافظه و مانده‌های او از ردیف تردید نداشت و به همه می‌گفت که ردیف میرزاعبدالله و عمویم هر دو نزد علی‌اکبر است. حبیب ا... صالحی از شاگردان مرحوم شهنازی هم می گفت یک مضراب چپ و راست علی اکبرخان از وقتی که به ما درس می داد تا حالا تغییر نکرده!
او دستی چیره در آهنگسازی و تصنیف‌سرایی داشت و برخی از چهارمضراب‌ها و پیش‌درآمدها و رنگ‌ها و تصانیف او در زمره آثار ماندگار تاریخ موسیقی ایران به شمار می‌آیند.
از تصانیفی که ساخته می‌توان به تصنیف ای نوع بشر، به اصفهان رو، سرود جوانان وطن، تصنیف چهارگاه، (زد لشکر گل) اشاره کرد. شهنازی با شاعرانی چون ملک‌الشعرای بهار، وحید دستگردی، امیر جاهد و حسین مسرور همکاری کرده و خوانندگانی نظیر اقبل السلطان، حسین علی خان نکیسا، رضا قلی ظلی، طاهرزاده، قمر و ادیب خوانساری آثارش را اجرا کرده‌اند.
او در روز سه شنبه ۲۸ اسفند ۱۳۶۳ در سن ۸۷ سالگی در بیمارستان شرکت نفت درگذشت. آرامگاهش در امامزاده عبدالله ری قرار دارد.
