وی در سال ۱۳۱۲ در یکی از محله‌های قدیمی شهر کرمان به نام محله شهر که از محله‌های بسیار قدیمی و فقیر نشین شهر کرمان بود، به دنیا آمد. محمد جواد باهنر فرزند دوم خانواده و دارای نه خواهر و برادر بود. پدر او پیشه‌ور ساده‌ای بود که زندگی محقرانه‌ای داشت و به واسطه مغازه کوچکی که در سرگذر محله داشت امرار معاش می‌کرد. در سن پنج سالگی برای آموزش به مکتب خانه‌ای سپرده شد و نزد بانوی معلم مکتب‌خانه قرآن را فرا گرفت از حدود یازده سالگی با راهنمایی حجت‌الاسلام حقیقی، فرزند معلم مکتب خانه، به مدرسه معصومیه کرمان وارد شد و تعلیم دروس حوزوی را آغاز نمود. او همزمان با دروس حوزوی با شرکت در امتحانات متفرقه دروس خود را در دبیرستان نیز ادامه داد. او در سال ۱۳۳۲ وارد حوزه علمیه قم شد در سال اول ورود به حوزه علمیه قم، در مدرسه فیضیه سکونت یافت و دروس کفایه و مکاسب را نزد اساتیدی چون آیت‌الله سلطانی، آیت‌الله مجاهدی و شیخ محمد جواد اصفهانی فرا گرفت و در همین سال بود که دیپلم کامل متوسطه را نیز اخذ کرد. در ادامه و تکمیل دروس دینی از سال ۱۳۳۳ به درس خارج علما حاضر شد و ضمن شرکت در درس خارج فقه آیت الله بروجردی به درس خارج اصول آیت الله خمینی نیز حاضر می‌شد و مدت هفت سال یعنی تا اوائل سال ۴۱ از دروس خارج فقه و اصول وی بهره‌مند گردید. باهنر هم چنین به مدت شش سال در درس فلسفه (اسفار) علامه طباطبائی شرکت نمود و درهمان زمان طلبگی وارد دانشکده الهیات شد و کارشناسی الهیات خود را در سال ۱۳۳۷ به اتمام رسانید. وی به مدت کمتر از یک سال در شهر نجف تحصیل نمود ولی مجدداً به قم بازگشت.

محمد جواد باهنر که در سال ۳۷ جهت انجام سفر تبلیغی به آبادان عزیمت کرده بود به مناسبت تقارن به رسمیت شناختن دولت اسرائیل توسط دولت ایران به صورت دو فاکتو حمله شدید و سختی به این مسئله نمود و پس از پایان سخنرانی توسط شهربانی دستگیر شد و این اولین برخورد او با رژیم پهلوی بود.در اسفند ماه ۱۳۴۲ پس از ایراد سخنرانی‌هایی در مساجد به مناسبت سالگرد حادثه فیضیه دستگیر شد و پس از آن شش بار به زندانهای کوتاه مدت محکوم شد و از سال ۱۳۵۰ اجازهٔ سخنرانی نداشت. وی در کنار تدریس به تألیف کتب درسی پرداخت و حدود سی کتاب و جزوه تعلیمات دینی را برای تدریس از دوره ابتدایی تا دانشگاه تألیف کرد، همچنین همزمان فعالیتهای اجتماعی خود را نیز ادامه داد و در تأسیس دفتر نشر فرهنگ اسلامی، کانون توحید و مدرسه رفاه نقش مؤثری داشت.

وی در سال ۱۳۵۷ به فرمان آیت‌الله خمینی به عضویت شورای انقلاب درآمدو پس از پیروزی انقلاب هم با پذیرش مسؤلیت در نهضت سواد آموزی، نماینده مردم کرمان در مجلس خبرگان قانون اساسی، نماینده شورای انقلاب اسلامی در وزارت آموزش و پرورش، نماینده مردم تهران در مجلس شورای اسلامی با ۲٬۱۳۴٬۴۳۴ رای (درصد آراء: ۶۴٫۸۰) به ایفای نقش پرداخت.او با حکم سید روح‌الله خمینی در سال۱۳۵۹ به عضویت ستادانقلاب فرهنگی درآمد. وی سپس در کابینه محمد علی رجایی به سمت وزیر آموزش و پرورش منصوب شد.به دنبال برکناری بنی صدر از مقام ریاست جمهوری و انتخاب محمد علی رجایی به عنوان ریاست جمهوری، بنا به پیشنهاد رجایی، باهنر (که پس از کشته‌شدن بهشتی در یکبمب‌گذاری در دفتر حزب جمهوری اسلامی به سمت دبیر کلی آن حزب انتخاب شده بود) در سال ۱۳۶۰ به عنوان نخست وزیر به مجلس شورای اسلامی معرفی گردید و مجلس نیز به او و وزرای وی رأی اعتماد داد. سر انجام باهنر به همراه رجایی در انفجار ۸ شهریور ۱۳۶۰ در دفتر نخست وزیری کشته شد.

محمدجواد باهنر چهار فرزند دارد دو فرزند دختر و دو فرزند پسر. فرزند بزرگ او دکتر ناصر باهنر است که هم عضو هیئت علمی دانشگاه امام صادق و هم مدیرعامل مجتمع فرهنگی رفاه است. به نوعی فعال فرهنگی است. پسر دوم او، در دانشگاه صنعتی شریف «هوا – فضا» خوانده است و درحال‌حاضر در وزارت دفاع مشغول است. دو دختر دارد که یکی پزشک و دیگری هم دندان‌پزشک هستند.