ঢাকা বিশ্ববিদ্যালয় থেকে মনোবিজ্ঞানে স্নাতকোত্তর করেন তিনি। আশির দশকে বামপন্থি রাজনীতি ছেড়ে আসেন বিএনপিতে। ওই সময় নয়াবাজার নবাব ইউসুফ মার্কেটে বিএনপির কার্যালয় থেকে এরশাদবিরোধী আন্দোলনের সূচনা করে সাতদলীয় জোটের নেতৃত্ব দেন বিএনপি চেয়ারপারসন বেগম খালেদা জিয়া। ওই অন্দোলনে ঢাকা মহানগর সংগ্রাম পরিষদের আহ্বায়কের দায়িত্ব পেয়েছিলেন খোকা। ১৯৯০ সালে বাবরি মসজিদ ভাঙাকে কেন্দ্র করে পুরান ঢাকায় হিন্দু সম্প্রদায়ের সুরক্ষায় গুরুত্বপূর্ণ ভূমিকা রেখে পুরান ঢাকার মানুষের মনে আস্থার জায়গা করে নেন। ১৯৯১ সালের জাতীয় নির্বাচনে ঢাকা-৭ আসনে (সূত্রাপুর-কোতোয়ালি) শেখ হাসিনাকে পরাজিত করে প্রথমবারের মতো এমপি নির্বাচিত হয়ে আলোচনায় আসেন।
এ সময় তিনি যুব ও ক্রীড়া মন্ত্রণালয়ের দায়িত্ব পান। ১৯৯৬ সালের নির্বাচনে ঢাকার আটটি আসনের মধ্যে সাতটিতে বিএনপি প্রার্থী পরাজিত হলেও একমাত্র খোকা নির্বাচিত হন। দিনে দিনে তার জনপ্রিয়তা বাড়তে থাকে। ঢাকার রাজনীতিতে খোকা ফ্যাক্টর হয়ে ওঠেন। পরে আওয়ামী লীগ সরকারবিরোধী আন্দোলনে প্রায় পাঁচ বছর একক নেতৃত্ব দিয়ে তিনি বিএনপির গুরুত্বপূর্ণ নেতায় পরিণত হন। ২০০১ সালের নির্বাচনেও সংসদ সদস্য নির্বাচিত হয়ে মৎস্য ও পশুসম্পদমন্ত্রী হন। ওই সময় পুরান ঢাকায় বিএনপির রাজনীতিতে নিজস্ব বলয় তৈরির পাশাপাশি প্রতিটি থানা ও ওয়ার্ডে দলকে শক্তিশালী করার পেছনে তার গুরুত্বপূর্ণ ভূমিকা ছিল। এর আগে ১৯৯৪ সালে সিটি করপোরেশন নির্বাচনে আওয়ামী লীগ নেতা মোহাম্মদ হানিফের কাছে পরাজিত হন মির্জা আব্বাস। বিএনপি সরকারের বিরুদ্ধে আওয়ামী লীগসহ অন্যান্য বিরোধীদল কঠোর আন্দোলন শুরু করলে ঢাকায় বিএনপি কোণঠাসা হয়ে পড়ে। এ অবস্থায় খোকাকে ১৯৯৬ সালে মহানগর বিএনপির আহ্বায়কের দায়িত্ব দেয়া হয়। ২০০২ সালের ২৫শে এপ্রিল অবিভক্ত ঢাকা সিটি করপোরেশন নির্বাচনে তিনি মেয়র নির্বাচিত হন। ২০১১ সালের ২৯ নভেম্বর পর্যন্ত তিনি ঢাকার মেয়র ছিলেন।