Di tengah pemukiman Tionghoa, berdiri kokoh sebuah masjid yang melambangkan persatuan antara kaum Tionghoa dan Melayu serta saksi masuk dan berkembangnya Islam di ranah daeng.
Masuk dan berkembangnya agama Islam di Kota Makassar tidak bisa dilepaskan dari sosok ulama dari pantai barat Sumatera, Khatib Tunggal Datuk Makmur atau populer di kalangan masyarakat Sulawesi Selatan dengan nama Datuk Ribandang. Ulama ini masuk ke Makassar pada abad XVI bersama kedua rekannya, Khatib Sulung Datuk Sulaiman yang dikenal sebagai Datuk Patimang dan Syekh Nurdin Ariyani atau Datuk Di Tiro.




Di masa tersebut, jalur perdagangan Melayu dan Makassar merupakan salah satu jalur perdagangan teramai yang dilalui oleh pedagang dari Selat Malaka, Pulau Sumatera dan Jawa yang telah memeluk Islam. Para pedagang ini dengan mudah beralkulturasi dengan berdagang dan bergaul dengan masyarakat lokal setempat. Tidak itu saja, komunitas pedagang ini bahkan membuat pemukiman yang dikenal sebagai Kampung Melayu.


Dari sinilah muncul keinginan Datuk Ribandang untuk mengislamkan Sulawesi Selatan, khususnya Makassar. Atas ajakan para pedagang, Datuk Ribandang serta kedua rekannya kemudian ikut dalam rombongan pedagang memasuki Makassar. Setibanya di ranah daeng, ketiga ulama ini kemudian menyebar. Datuk Ribandang sendiri menetap di Makassar dan menyebarkan agama Islam di Gowa, Takalar, Jeneponto, Bantaeng, dan wafat di Tallo. Sementara dua temannya, masing-masing Datuk Patimang menyebarkan agama Islam di daerah Suppa, Soppeng, Wajo dan Luwu, wafat dan dikebumikan di Luwu, dan Datuk Di Tiro berkarya di sejumlah tempat meliputi Bantaeng, Tanete, dan Bulukumba. Ia wafat dan dimakamkan di Tiro atau Bontotiro sekarang.


Sentuhan ajaran Islam yang dibawa oleh Datuk Ribandang ini diapresiasikan oleh Raja Gowa IX, Daeng Matanre Karaeng Maparisi Ka Kallonna, yang memang tertarik dengan budaya, kultur dan kegiatan agama Islam. Ia diberi keleluasaan untuk menyebarkan ajaran agama Islam dan bermula di Kampung Melayu. Untuk lebih menyebarkan ajaran ini, cucu keturunan Datuk Ribandang kemudian membangun sebuah masjid pada abad XVII, yang kemudian disebut Masjid Makmur Melayu, sesuai dengan nama kakeknya.


Tak ada yang dapat memastikan tahun pembangunan masjid ini, akan tetapi masjid ini dibangun di atas lokasi bekas Pesantren Khatib Tunggal Abdul Makmur. Karena berada di tengah komunitas Tionghoa, arsitektur masjid ini pun mendapat sedikit sentuhan gaya bangunan Tiongkok. Oleh karenanya, Masjid Makmur Melayu tidak hanya diramaikan oleh jamaah ras Melayu, tetapi juga oleh orang Tionghoa yang telah memeluk Islam. Bahkan masjid ini sempat dikenal sebagai Masjid Tionghoa, karena imamnya berasal dari keturunan Tionghoa.