Masyarakat Tionghoa di masa Kesultanan Palembang diizinkan untuk bermukim di wilayah Palembang apabila bersedia tinggal di atas air dengan mendirikan rumah-rumah rakit. Rakit-rakit tersebut umumunya dibuat dari bahan kayu atau bambu dengan atap kajang atau sirap, namun apabila orang Tionghoa tersebut termasuk golongan atas maka rumah rakitnya terbuat dari kayu jati yang di cat dengan rapi, dengan ukuran yang sesuai dengan selera masing-masing (Ari, 2002: 31).
Rumah rakit dibangun dengan terdiri dari balok yang dijalin dengan bambu yang ditambatkan pada tepi sungai atau pada tiang yang ditanam dalam tanah, dengan jalinan rotan yang jauh lebih kuat daripada tali rami. Rakit mengalami irama pasang surut air, rakit itu dihubungkan dengan daratan menggunakan jembatan-jembatan terapung. Rakit dari orang-orang Cina biasanya dilengkapi dengan rumah belakang yang dibangun di atas rakit tersendiri sehingga bagian tengah menyerupai pelataran (halaman) dalam rumah. Rumah belakang biasanya digunakan sebagai dapur dan ruang keluarga sedangkan ruang makan digunakan sebagai toko dan gudang.
Rumah rakit memiliki bentuk persegi panjang yang berukuran kurang lebih sekitar 36 sampai 64 meter persegi, serta mempunyai bentuk atap mirip pelana. Atap rumah ini disebut sebagai atap kajang yang terbuat dari daun nipah kering. Tembok rumah rakit terbuat dari kayu dengan serat yang cukup padat serta memiliki fondasi yang berasal dari bambu yang berusia cukup tua agar dapat bertahan lama. Bambu besar yang memiliki ukuran diameter variatif ini digunakan sebagai fondasi rumah dengan cara saling diikatkan satu dengan yang lainnya, kemudian diikatkan dengan sebuah pasak. (Jurnal Swarnabhumi Vol. 4, No.2, Agustus 2019)
Ciri khas rumah rakit Cina ini adalah atapnya berbentuk sadel (zadeldag) dengan memakai tanduk panjang pada setiap ujungnya. Rumah rakit terdiri dari dua bagian yaitu rumah luan (depan) dan rumah buri (belakang). Di antara kedua bangunan itu terdapat pelataran tempat melakukan berbagai aktivitas kehidupan sehari-hari. Pada awalnya masyarakat Cina memanfaatkan rumah rakit sebagai toko atau tempat berjualan, bahkan sebagai penginapan (homestay) Hal ini menunjukkan bahwa pemukiman di atas sungai maupun di tepi sungai sangat optimal untuk mendukung kegiatan pemilik atau penghuni rumah. (Jurnal arkeologi Siddayatra volume 7 nomor 2 Nopember 2002).
Pada masa kolonial, pemukiman di tepi Sungai Musi tidak banyak mengalami perubahan karena pemerintah Kolonial Belanda lebih menitikberatkan pada pembangunan yang mengarah ke darat untuk pemukiman, perkantoran, maupun pusat-pusat perdagangan yang berlokasi di seberang ilir. Adanya pembangunan yang di titik beratkan pada daerah seberang ilir ini mengakibatkan pemukiman perairan berkembang ke daerah seberang ulu, tetapi tetap berorientasi ke sungai. Hal ini terjadi terutama pada kawasan yang menjadi pusat-pusat pemerintahan dan pusat perekonomian seperti Benteng Kuto Besak, Pasar Sekanak, Pasar 16 Ilir dan sebagainya. Kelebihan dari rumah rakit adalah terletak di tengah-tengah air sungai yang mengalir membuat udara menjadi sejuk karena angin datang dari segala penjuru. Masalah kebersihan yang menjadi hal mutlak bagi kesehatan juga dapat diatasi dengan adanya air sungai yang mengalir di bawah rumah penduduk (Sevenhoven, 2015: 7).
