১৯৪২ সালের ২৩ জানুয়ারি ভারতের কলকাতার একটি সম্ভ্রান্ত মুসলিম পরিবারে জন্মগ্রহণ করেন রাজ্জাক। পারিবারিক নাম আব্দুর রাজ্জাক। কলকাতার থিয়েটারে অভিনয় করার মাধ্যমে রাজ্জাক তার অভিনয় জীবনের শুরু করেন।
সিনেমার নায়ক হওয়ার অদম্য স্বপ্ন ও ইচ্ছা নিয়ে রাজ্জাক ১৯৫৯ সালে ভারতের মুম্বাইয়ের ফিল্মালয়তে সিনেমার ওপর পড়াশুনা ও ডিপ্লোমা গ্রহণ করেন। এরপর কলকাতায় ফিরে এসে শিলালিপি ও আরও একটি সিনেমায় অভিনয় করেন। তবে ১৯৬৪ সালে কলকাতায় সাম্প্রদায়িক দাঙ্গার কবলে পড়ে রাজ্জাক তার পরিবার পরিজন নিয়ে ঢাকায় চলে আসতে বাধ্য হন। তৎকালীন প্রাদেশিক রাজধানী ঢাকায় এসেও রাজ্জাক চলচ্চিত্রের নায়ক হওয়ার সুযোগ খুঁজতে থাকেন-তবে প্রথমেই এতে সফলতা না পেয়ে সিনেমার একজন সহকারী পরিচালক হিসেবে ‘উজালা’ ছবিতে পরিচালক কামাল আহমেদের সহকারি হিসেবে কাজ শুরু করেন।
’৬০-এর দশকে সালাউদ্দিন পরিচালিত হাসির ছবি ‘তেরো নম্বর ফেকু ওস্তাগার লেন’-এ একটি পার্শ্ব চরিত্রে অভিনয়ের মাধ্যমে রাজ্জাক ঢাকায় তার অভিনয় জীবনের সূচনা করেন। এরপর প্রতিভাবান পরিচালক জহির রায়হান তার লোক ছবি ‘বেহুলা’তে রাজ্জাককে লখিন্দরের ভূমিকায় অভিনয় করার সুযোগ করে দেয়ার মধ্যদিয়ে প্রথম নায়ক হিসেবে অভিনয় করেন তিনি। ‘বেহুলা’ ছবিতে সুচন্দার বিপরীতে নায়ক হিসেবে অভিনয় করে ব্যাপক আলোড়ন সৃষ্টি করেন তিনি।
এরপর আর পেছনে ফিরে তাকাতে হয়নি রাজ্জাককে। ৬০-এর দশকের শেষ থেকে ’৭০ ও ’৮০-এর দশকে জনপ্রিয়তার তুঙ্গে ওঠেন রাজ্জাক-অভিনয় করেন ৩ শ’-এরও বেশি চলচ্চিত্রের নায়কের ভূমিকায়। রাজ্জাক অভিনীত জননন্দিত ছবিগুলোর মধ্যে রয়েছে ‘নীল আকাশের নীচে, ময়নামতি, মধু মিলন, পীচ ঢালা পথ, যে আগুনে পুড়ি, জীবন থেকে নেয়া, কী যে করি, অবুঝ মন, রংবাজ, বেঈমান, আলোর মিছিল, অশিক্ষিত, অনন্ত প্রেম, বাদী থেকে বেগম ইত্যাদি।
দীর্ঘ ও বর্ণাঢ্য অভিনয় জীবনে রাজ্জাক-সুচন্দা, রাজ্জাক-কবরী ও রাজ্জাক-শাবানা ও রাজ্জাক-ববিতার অনেক সিনেমা দর্শক হৃদয়ে আলোড়ন সৃষ্টি করে এবং যা রাজ্জাককে ঢালিউডের নায়ক রাজ উপাধিতে ভূষিত করেছে। কাজের স্বীকৃতি স্বরূপ তিনি পেয়েছেন একাধিক জাতীয় চলচ্চিত্র পুরস্কার।