রাজনৈতিক সমঝোতা ব্যর্থ হওয়ার পর ১৯৭১ সালের ২৫ মার্চ রাতে পাকিস্তানি সেনাবাহিনী ঢাকায় ‘অপারেশন সার্চলাইট’ নামে গণহত্যা চালায়। এর পরপরই শুরু হয় মুক্তিযুদ্ধ, যেখানে বাঙালি সেনারা বিচ্ছিন্নভাবে প্রতিরোধ গড়ে তোলেন। এপ্রিলের শুরুতে সংগঠিত প্রতিরোধের নেতৃত্বে আসেন অবসরপ্রাপ্ত কর্নেল মহম্মদ আতাউল গণি ওসমানী, যিনি ১৯৬৭ সালে পাকিস্তান সেনাবাহিনী থেকে অবসর নিয়ে রাজনীতিতে যোগ দিয়েছিলেন এবং ১৯৭০ সালের নির্বাচনে আওয়ামী লীগের প্রার্থী হিসেবে জয়ী হয়েছিলেন।

অসহযোগ আন্দোলনের সময় ওসমানী অবসরপ্রাপ্ত ও কর্মরত বাঙালি সেনাদের সংগঠিত করতে গোপনে কাজ শুরু করেন। ১৯৭১ সালের ৪ এপ্রিল হবিগঞ্জের তেলিয়াপাড়ায় অনুষ্ঠিত এক বৈঠকে মেজর জিয়াউর রহমান, কেএম সফিউল্লাহ, খালেদ মোশাররফসহ কর্মকর্তারা সর্বসম্মতিক্রমে ওসমানীকে মুক্তিবাহিনীর প্রধান সেনাপতি নির্বাচিত করেন। বৈঠকে দেশকে চারটি সামরিক অঞ্চলে ভাগ করার সিদ্ধান্ত হয়, যা পরে ১১টি সেক্টরে সম্প্রসারিত হয়।

১০ এপ্রিল মুজিবনগর সরকার আনুষ্ঠানিকভাবে ওসমানীকে মুক্তিবাহিনীর প্রধান সেনাপতি ঘোষণা করে। ইতিহাসবিদদের মতে, তার অভিজ্ঞতা, সিনিয়রিটি ও রাজনৈতিক গ্রহণযোগ্যতার কারণে তিনি ছিলেন সবচেয়ে উপযুক্ত ব্যক্তি। তার নেতৃত্বে মুক্তিবাহিনী নিয়মিত ও অনিয়মিত দুই ভাগে সংগঠিত হয়ে স্বাধীনতা অর্জন করে।