আবুল ফজল ছিলেন একজন শিক্ষাবিদ, প্রাবন্ধিক, কথাসাহিত্যিক ও বিশ্ববিদ্যালয়ের উপাচার্য। একই সঙ্গে তিনি বাঙালি মুসলমানের মানসকাঠামো পরিবর্তনের লক্ষ্যে সারা জীবন লেখালেখি ও সাংগঠনিক সক্রিয়তার মাধ্যমে কাজ করে গেছেন।

তাঁর জন্ম চট্টগ্রামের সাতকানিয়া উপজেলার অন্তর্গত কেঁওচিয়া গ্রামে। তাঁর বাবা ছিলেন চট্টগ্রাম জুমা মসজিদের ইমাম। বাবার অন্ধ ধর্মপরায়ণতার কারণে তাঁর শিক্ষাজীবন শুরু হয় মাদ্রাসায়। সরকারি মাদ্রাসায় মাধ্যমিক পাসের পরে নিজ আগ্রহেই ভর্তি হয়েছিলেন ঢাকা ইসলামিক ইন্টারমিডিয়েট কলেজে। তিনি ১৯২৮ সালে ঢাকা বিশ্ববিদ্যালয় থেকে বিএ ডিগ্রি লাভ করেন। তিনি ঢাকা বিশ্ববিদ্যালয়ে অধ্যয়নকালে ঢাকার মুসলিম সাহিত্যসমাজ প্রতিষ্ঠার একজন অন্যতম সংগঠক ছিলেন। ১৯৩০ সালে তিনি এর সম্পাদক হন।

 ১৯৩১ সালে ঢাকা টিচার্স ট্রেনিং কলেজ থেকে বিটি এবং ১৯৪০ সালে কলকাতা বিশ্ববিদ্যালয় থেকে বাংলা ভাষা ও সাহিত্যে এমএ ডিগ্রি লাভ করেন।

তিনি প্রথম দিকে মসজিদের ইমামতি দিয়ে কর্মজীবন শুরু করেন। পরে বিভিন্ন স্কুলে শিক্ষকতা করে ১৯৪১ সালে তিনি পশ্চিমবঙ্গের কৃষ্ণনগর কলেজে বাংলার প্রভাষক হন। সেখান থেকে ১৯৪৩ সালে তিনি চট্টগ্রাম কলেজে বদলি হন এবং সেখান থেকেই ১৯৫৬ সালে অধ্যাপক হিসেবে অবসর গ্রহণ করেন।

১৯৬৭ সালে পাকিস্তান সরকার যখন রবীন্দ্রনাথকে পাকিস্তানের আদর্শবিরোধী হিসেবে আখ্যায়িত করে রেডিও-টেলিভিশন থেকে রবীন্দ্রসংগীত প্রচার বন্ধের সিদ্ধান্ত নেয়, তখন তিনি এর বিরুদ্ধে তীব্র প্রতিবাদ জানান।

স্বাধীনতার পর বঙ্গবন্ধুর আহ্বানে তিনি ১৯৭৩ সালে চট্টগ্রাম বিশ্ববিদ্যালয়ে উপাচার্য পদে যোগদান করেন। এরপর জিয়াউর রহমানের সময় তিনি বাংলাদেশ সরকারের উপদেষ্টা পরিষদের সদস্য হিসেবে শিক্ষা ও সংস্কৃতি মন্ত্রণালয়ের দায়িত্ব পালন করেন। তিনি সেই পদ থেকে ১৯৭৭ সালের ২৩ জুন ব্যক্তিগত কারণ দেখিয়ে পদত্যাগ করেন। 
আবুল ফজল উপন্যাস, ছোটগল্প, নাটক, আত্মকথা, ধর্ম, ভ্রমণকাহিনি ইত্যাদি বিষয়ে বহু গ্রন্থ রচনা করেন।

যুক্তিবাদী ও মুক্তচিন্তক মানুষটি ১৯৮৩ সালের ৪ মে চট্টগ্রামে মৃত্যুবরণ করেন।