وی در زمان کودکی به رشته‌های ورزشی ژیمناستیک و وزنه برداری علاقمند شد و از سن 10 سالگی ورزش را آغاز کرد. در انجام حرکات تعادلی و آکروباتیک تبحر داشت.
اما نیروی زیاد و توان جسمی‌اش چنان مشهود بود که وقتی مسابقات وزنه برداری قهرمانی کشور برگزار شد، با اطمینان خاطر در دسته پر وزن شرکت کرد.
وی در تهران در باشگاه نیرو راستی وزنه برداری را فراگرفت و در کنار رسول رئیسی و محمود نامجو پایه گذار اولین تیم ملی وزنه‌برداری ایران شد.
سلماسی در چهارم آبان ۱۳۲۳ در فضای باز امجدیه به صورت غیر رسمی رکورد المپیک برلین را شکست.
وی از سال ۱۳۲۴ تا ۱۳۲۷، چهار سال متوالی قهرمان ایران شد. اوج جوانی‌اش همزمان با جنگ جهانی دوم بود.
سال ۱۹۴۴ وقتی ۲۶ ساله بود، رقابت‌های المپیک لغو شد. 4 سال بعد با خاموشی آتش جنگ، میزبانی المپیک برای دومین‌بار به لندن رسید.
وی در سال 1323 با مجموع 280 کیلوگرم قهرمان دسته پر وزن مسابقات قهرمانی کشور شد و این قهرمانی را در سال‌های 1324، 1325، 1326 و 1327 هم تکرار کرد.
ورزش ایران نخستین‌بار در سال 1948 در بازیهای المپیک حضور یافت. جعفر سلماسی در پیکارهای دسته 60 کیلوگرم وزنه‌برداری حضور داشت و با درخشش در حرکت پرس و بلند کردن 100 کیلوگرم توانست 7.5 کیلوگرم رکورد المپیکی آنتونی ترلازو (از ایالات متحده و قهرمان المپیک قبل) را در هم بشکند.
در حرکت یک‌ضرب، سلماسی با 97.5 کیلوگرم به کار خود پایان داد ولی محمود فیاد از مصر با بلند کردن 105 کیلوگرم شگفتی آفرید و پس از ثبت رکورد 135 کیلوگرم در دوضرب، قهرمان المپیک شد.
سلماسی با 312.5 کیلوگرم در جای سوم این وزن قرار گرفت و نخستین مدال ورزش ایران در بازیهای المپیک را برگردن آویخت.
سه سال پس از المپیک، وزنه برداری ایران در اولین دوره بازیهای آسیایی که در دهلی نو برگزار شد با کسب 7 مدال طلا و 3 مدال نقره به مقام قهرمانی آسیا دست یافت.
در دسته پر وزن، محمد جعفر سلماسی با ثبت رکورد 305 کیلوگرم به مدال طلا رسید و پس از آن از تیم ملی کناره‌گیری کرد.
جعفر سلماسی سال‌ها در آموزش و پرورش خدمت کرد و پس از بارنشستگی از سال 1373 در شهر قم سکنی گزید.
جعفر سلماسی که اولین مدال‌آور تاریخ ورزش ایران در رقابت‌های المپیک است در سال 1378 و در سن 81 سالگی در اثر بیماری دیابت در بیمارستان باهنر تهران درگذشت و پیکرش در قطعه 22 بهشت زهرا در کنار شادروان نامجو به خاک سپرده شد.