মুজিব ব্রিটিশ ভারতের বাংলা প্রদেশের গোপালগঞ্জ জেলার টুঙ্গিপাড়া গ্রামে জন্মগ্রহণ করেন, শেখ লুৎফুর রহমান, গোপালগঞ্জ দেওয়ানি আদালতের সেরেস্তাদার (কোর্ট ক্লার্ক) এবং তার স্ত্রী শেখ সায়েরা খাতুনের ঘরে। তিনি চার কন্যা ও দুই পুত্রের পরিবারে তৃতীয় সন্তান হিসেবে একটি বাঙালি মুসলিম পরিবারে জন্মগ্রহণ করেন। তার বাবা-মা তাকে আদর করে ডাকতেন ‘খোকা’।>
1929 সালে, মুজিব গোপালগঞ্জ পাবলিক স্কুলে তৃতীয় শ্রেণীতে এবং দুই বছর পর মাদারীপুর ইসলামিয়া উচ্চ বিদ্যালয়ে চতুর্থ শ্রেণীতে ভর্তি হন। ছোটবেলা থেকেই মুজিব নেতৃত্বের সম্ভাবনা দেখিয়েছিলেন। তার বাবা-মা একটি সাক্ষাত্কারে উল্লেখ করেছেন যে অল্প বয়সে, তিনি একজন অযোগ্য অধ্যক্ষকে অপসারণের জন্য তার স্কুলে একটি ছাত্র বিক্ষোভের আয়োজন করেছিলেন। মুজিব চোখের অস্ত্রোপচারের জন্য 1934 সালে স্কুল থেকে সরে আসেন এবং অস্ত্রোপচারের তীব্রতা এবং ধীর পুনরুদ্ধারের কারণে মাত্র চার বছর পরে স্কুলে ফিরে আসেন।
পরে তিনি 1942 সালে গোপালগঞ্জ মিশনারি স্কুল থেকে ম্যাট্রিকুলেশন, 1944 সালে ইসলামিয়া কলেজ (বর্তমানে মৌলানা আজাদ কলেজ) থেকে ইন্টারমিডিয়েট এবং 1947 সালে একই কলেজ থেকে বিএ পাস করেন। ভারত বিভাগের পর তিনি ঢাকা বিশ্ববিদ্যালয়ে ভর্তি হন। আইন অধ্যয়ন করার জন্য কিন্তু কোর্সটি সম্পূর্ণ করেননি কারণ 1949 সালের প্রথম দিকে বিশ্ববিদ্যালয় কর্তৃপক্ষের তাদের ন্যায্য দাবির প্রতি উদাসীনতার বিরুদ্ধে আন্দোলনে ‘চতুর্থ শ্রেণীর কর্মচারীদের উসকানি দেওয়ার’ অভিযোগে তাকে বিশ্ববিদ্যালয় থেকে বহিষ্কার করা হয়েছিল। ৬১ বছর পর ২০১০ সালে বহিষ্কার অন্যায় ও অগণতান্ত্রিক বলে প্রত্যাহার করা হয়।