Beliau kemudian berlayar menuju Manado, atas ajakan kakak beliau Habib Alwi bin Salim Aljufrie yang berada di Manado. Ketika kapalnya singgah bersama rombongan menginjakkan kaki pertama di Pelabuhan Wani, Kabupaten Donggala, pada 1929, Habib ldrus menggunakan kesempatan itu untuk berkonsolidasi dengan komunitas Arab yang dipimpin Syekh Nasar bin Khams Al-Amri, di situ beliau mengutarakan tentang rencananya untuk mendirikan madrasah di kota Palu.
Setibanya di Manado, Habib ldrus mendapatkan telegram tentang hasil musyawarah masyarakat arab yang ada di Kota Palu mengenai pendirian Madrasah. Pada akhirnya disepakati bersama bahwa sarana pendidikan berupa gedung akan disiapkan oleh masyarakat arab Palu, sedangkan gaji guru, Habib ldrus yang akan mengusahakannya.
Pada tahun 1930 M Guru Tua pun pindah ke Kota Palu yang kala itu bernama "Celebes" pada masa penjajahan Belanda, setelah mendapat undangan dari beberapa tokoh bangsa Arab di Palu dan Wani yakni Ibrahim bin Zain, Sayid Muhammad bin Muhsin Rifai dan Sayid Ahmad bin Ali Almuhdar di Wani Kecamatan Tawaeli.
Kehadiran Guru Tua di Wani merupakan wujud dari keinginan masyarakat setempat yang ingin mengenal Islam lebih baik, menggunakan ruangan Toko Haji Quraisy di Kampung Ujuna sebagai ruangan belajar mengajar dan kemudian pindah ke rumah Almarhum Haji Daeng Maroca di Kampung Baru (Depan Masjid Jami-Kampung Baru).
Rupanya di Palu inilah memberikan inspirasi yang kuat untuk tinggal dan menetap dalam rangka melakukan dakwahnya setelah menyaksikan keadaan masyarakat yang masih sangat terbelakang dalam pemahaman ajaran Islam.
Pemerintah Belanda yang saat itu menduduki Donggala tidak memberikan izin pendirian madrasah karena dianggap bisa memengaruhi pemikiran rakyat saat itu, sebagian pengikut Guru Tua di Wani dituduh terlibat pemberontakan Salumpaga di Tolitoli.
Guru Tua akhirnya mendirikan sekolah di Palu, sekitar 30 kilometer dari Wani. Madrasah tersebut bernama Alkhairaat dan pada tanggal 30 Juni 1930 M setelah mengurus perizinan pendirian dan surat-surat lainnya ke pemerintah Hindia Belanda, maka, diresmikanlah Madrasah AI-Khairaat di Kota Palu.
Kepindahan perguruan Alkhairaat ke Palu tidak serta merta bebas dari pengawasan Pemerintah Belanda. Pemerintah Belanda dikabarkan juga sempat melarang Perguruan AlKhariraat karena ajaran Guru Tua, khususnya yang bersumber dari kitab Izhatun Nasyi’in, karya Musthafa Al-Ghalayani.
Salah satu strategi yang digunakan agar cepat diterima masyarakat Palu, Sayid Idrus menerima saran dari beberapa tokoh masyarakat, Guru Tua pun memutuskan untuk menikahi salah seorang bangsawan Puteri Kaili yang juga merupakan sosok perempuan yang sangat berperan dalam pengembangan Yayasan Alkhairaat Pusat. Dengan ketetapan hati dan petunjuk dari Allah SWT pada tahun 1931 M Guru Tua pun menikahi Intje Ami Dg.Sute. Dari perkawinan ini beliau dikaruniai dua orang puteri, Syarifah Sidah Aljufrie dan Syarifah Sa’diyah Aljufrie.
Habib ldrus tidak meninggalkan karangan kitab, namun karya besarnya adalah AI-Khairaat dan murid-muridnya yang telah memberikan pengajaran serta pencerahan agama kepada umat. Mereka para murid-murid AI-Khairaat menyebar di seluruh kawasan Indonesia untuk meneruskan perjuangan sang Pendidik yang tak kenal putus asa ini.
Salah satu murid beliau yang melanjutkan dakwahnya adalah Ustad Abdullah Awadh Abdun, yang hijrah dari kota Palu ke Kota Malang untuk berdakwah dan mendidik para muridnya dengan mendirikan pesantren Daarut Tauhid di Kota Malang.
Tahun 1968, Habib Idrus mengalami sakit parah, selama delapan bulan beliau meminum jus kurma. Walaupun dalam keadaan sakit, ia tetap menjalankan majelis mengajar setiap waktu. Masih dalam suasana ldul Fitri, sakit parah yang telah lama diderita Habib ldrus kembali kambuh. Bertambah hari sakitnya semakin berat.
Maka, guru, Ulama dan Sastrawan itu wafat, pada hari senin 12 Syawwal 1389 H betepatan dengan 22 Desember 1969 M. sebelum menjelang detik-detik kewafatannya, Habib ldrus sudah mewasiatkan tentang siapa saja yang memandikan jenazah, imam shalat jenazah, tempat pelaksanaan shalat jenazah, siapa yang menerima jenazah di liang lahat, muadzin di liang lahat, sampai yang membaca talqin di kubur.
Habib ldrus telah mempertaruhkan seluruh hidupnya dalam mengarungi perjalanan panjang dengan berbagai sarana ke kepulauan di sekitar Sulawesi dan Maluku untuk menyiarkan pengetahuan Islam. Beliau berpindah dari satu pulau ke pulau yang lain menggunakan perahu sampan, gerobak sapi dan kendaraan lainnya bahkan dengan berjalan kaki dengan bermacam risiko, tantangan dan bahaya yang selalu mengancam di setiap saat.
Akan tetapi Habib ldrus selalu merasakan kenikmatan di antara pertaruhan jiwanya dan beliau rela memberikan apa saja meski jiwanya sekalipun. Ketabahannya dalam mengarungi pelayaran itu sampai berbulan-bulan lamanya. Dan kadang-kadang perjalanan itu ditempuh dengan berjalan kaki jika tidak mendapatkan alat-alat transportasi.
