મોહમ્મદ અઝીઝને ગાયક બનવા ઘણો સંઘર્ષ કરવો પડ્યો હતો પણ સંગીતકારો આખરે એમની ગાયિકીને માન્યા હતા અને પછી તક આપી હતી. કલકત્તામાં કિશોર અવસ્થાથી ગાયક બનેલા અઝીઝને થયું કે અહીં આમતેમ કાર્યક્રમોમાં ગાવા કરતાં મુંબઈ જઈને કારકિર્દી બનાવવી જોઈએ. એમણે ૧૯૮૨ માં બાબુલ બોઝ (‘જીના તેરી ગલી મેં’ ના સંગીતકાર) સાથે મુંબઇમાં પ્રવેશ કર્યો. લગભગ પોણા બે વર્ષ સુધી સંઘર્ષ કર્યો. ફિલ્મી સ્ટુડિયો, નિર્માતાઓ અને સંગીતકારોને ત્યાં ચક્કર લગાવતા રહ્યા. મોહમ્મદ અઝીઝ મુંબઈ જતા હતા ત્યારે મિત્ર જાવેદે એના નાનાભાઈ અને ‘આફતાબ પિક્ચર્સ’ ના સલીમ અખ્તરના નામે એક ભલામણ પત્ર લખી આપ્યો હતો. એમાં ભારપૂર્વક લખ્યું હતું કે અઝીઝ સારું ગાય છે અને એને તક આપવાની જ છે.
સલીમે પોતાની આગામી ફિલ્મમાં તક આપવા સંગીતકાર અનુ મલિક સાથે મુલાકાત કરાવી. અનુ ત્યારે સંઘર્ષ જ કરતા હતા. એક-બે નાની ફિલ્મો કરી હતી. સલીમે અનુને અઝીઝનો અવાજ સાંભળીને એના માટે જે થઈ શકે એ કરવા કહ્યું. ત્યારે અનુએ કહ્યું કે અત્યારે જે ફિલ્મનું સંગીત આપી રહ્યો છે એના ચાર ગીતો તૈયાર થઈ ગયા છે. એક બાકી છે એને આશા ભોંસલેના સ્વરમાં રેકોર્ડ કરવાનું છે. કોઈ પુરુષ સ્વર માટે ગીત બાકી નથી. છતાં તમે કીધું છે એટલે એને બોલાવતો રહીશ અને ધ્યાન રાખીશ. અઝીઝ અનુને મળતા રહ્યા. અઝીઝ મુંબઈમાં શરૂઆતમાં ખર્ચ કાઢવા હોટલોમાં ગાતા રહેતા હતા અને સંગીતકારોને મળતા રહેતા હતા.
એક દિવસ દુર્ગા પૂજાના કાર્યક્રમમાં મોહમ્મદ અઝીઝે ગાયું ત્યારે ‘આન મિલો સજના’ (૧૯૭૦) ના નિર્દેશક અને બંગાળી ગીતકાર મુકુલ દત્ત પ્રભાવિત થયા. એમને ખબર હતી કે નિર્માતા આશિષ રૉયની ફિલ્મ બંગાળી (જ્યોતિ) અને હિન્દી (અંબર) એમ બે ભાષામાં બની રહી છે. મુકુલે અઝીઝની ભલામણ કરી અને સપન- જગમોહનના સંગીતમાં પહેલું ગીત ‘કબ તલક દુલ્હે’ ગાવાની તક મળી. ‘અંબર’ ના એક વાદ્યવાદકે અઝીઝ માટે લાગણી થતાં સંગીતકાર ઉષા ખન્ના સાથે મુલાકાત કરાવી. ઉષાએ એમનો અવાજ સાંભળ્યો અને ફિલ્મ ‘માન મર્યાદા’ (૧૯૮૪) માં એક હોળીગીત ગવડાવ્યું. એ પછી ત્રણ- ચાર ગીતો ગવડાવ્યા. એટલું જ નહીં એ ગીતોની કેસેટ સાથે સંગીતકાર પ્યારેલાલના ઘરે ફોન કરીને પોતાની ભલામણ સાથે મોકલ્યા. એ કારણે લક્ષ્મીકાન્ત- પ્યારેલાલ સાથે પણ સંપર્ક શરૂ થયો. એમણે અવાજ સાંભળ્યો અને પછી મળવા કહ્યું. પછીથી જ્યારે એમના બંગલે મુલાકાત માટે અઝીઝે પ્રયત્ન કર્યા ત્યારે મોકો મળતો ન હતો.
એક દિવસ ફરી ઉષા ખન્નાની ભલામણથી બપોરે બંગલામાં ઘૂસી ગયા. ત્યારે લક્ષ્મીકાન્ત નહાઈને બાહર આવ્યા હતા. એમનો મૂડ બગડી ગયો અને કહી દીધું કે તું ગમે ત્યારે આવી જાય છે. સમય જોતો નથી અને એપોઈન્ટમેન્ટ કે ફોન વગર આવે છે. અઝીઝે માફી માંગી અને કલકત્તાથી આવ્યો હોવાનું કહ્યું ત્યારે એમણે કહી દીધું કે તું કલકત્તા પાછો ચાલ્યો જા અને રિયાઝ કર. અઝીઝ નિરાશ થઈને પાછા ફર્યા અને જૂહૂ બીચ પર બેસીને એમ વિચારીને રડ્યા કે મારા આદર્શ સંગીતકારે ના પાડી દીધી એટલે મારુ કંઇ થવાનું નથી. એ વાત અલગ છે કે લક્ષ્મીકાન્ત-પ્યારેલાલે પાછળથી એમની પાસે ગીતો ગવડાવ્યા હતા. દરમ્યાનમાં અઝીઝ કોઈને ત્યાં પેઈંગ ગેસ્ટ તરીકે રહેતા હતા ત્યારે સવારે એક છોકરો આવ્યો અને સમાચાર આપ્યા કે તને અનુ મલિક બોલાવે છે.
અમિતાભ બચ્ચનની ફિલ્મ ‘મર્દ’ (૧૯૮૫) નું ટાઇટલ ગીત તારે ગાવાનું છે. અઝીઝને પહેલાં તો સાચું લાગ્યું જ નહીં. અઝીઝ પહોંચ્યા ત્યારે અનુએ કહ્યું કે પહેલાં બીજું કોઈ ‘મર્દ’ નું ટાઇટલ ગીત ગાવાનું હતું. હવે તું પણ જો બરાબર નહીં ગાય તો તારા હાથમાંથી જતું રહેશે. તારો અવાજ નિર્દેશક મનમોહન દેસાઇને પસંદ આવશે તો તારું ગીત રહેશે. મેં તારો અવાજ એમને સંભળાવ્યો છે અને ગમ્યો છે. તારે તારું શ્રેષ્ઠ આપવાનું છે. અઝીઝે રિહર્સલમાં માઇક વગર ગાયું ત્યારે જ મનમોહન ખુશ થઈ ગયા. માઇક પર ફાઇનલ રેકોર્ડીંગ થયું એ પછી તો શાબાશી આપીને કહ્યું કે અત્યારે અવાજ વધારે સારો લાગ્યો અને બીજું ગીત ‘હમ તો તંબૂ મે બંબૂ’ પણ ગાવા આપ્યું. અમિતાભની ફિલ્મના ‘મર્દ ટાંગેવાલા’ ગીતથી મોહમ્મદ અઝીઝને જાણે પાર્શ્વગાયકનું ટાઇટલ મળ્યું અને નામ થઈ ગયું. પછી તો ગાયક તરીકે ગાડી ચાલી નીકળી હતી.