Pasar Besar Malang sebenarnya dulu dikelola oleh pihak swasta. Lalu, pasar ini mulai diambil alih oleh Pemerintah Kota Malang pada tahun 1914 dan baru benar-benar dibangun ulang pada tahun 1919. Karena lokasinya yang dekat dengan Pecinan, maka dulunya pasar ini biasa disebut sebagai Pasar Pecinan.
Sebelum ide membangun kembali Pasar Pecinan, sebenarnya pemerintah sudah berniat membangun sebuah pasar di wilayah Pasar Burung Splendid sekarang. Hanya saja pemerintah melihat bahwa wilayah tersebut tidak terlalu cocok untuk dijadikan pasar dan mengalihkan perhatiannya pada wilayah di Pecinan. Ternyata hal itu juga disambut positif oleh masyarakat Arab dan Tionghoa yang berada di sekitar pasar bahkan mereka rela melepaskan tanah mereka di wilayah sekitar untuk perluasan pasar.
Mulai tahun 1914, pasar ini mulai berada di bawah di bawah Pemerintah Kota Malang. Karena banyaknya pedagang serta cukup besarnya pajak yang masuk pada pemerintah, akhirnya pada 1919 pasar ini dibangun ulang dengan lebih tertata dan modern. Biaya pembuatan pasar ini cukup besar serta memakan waktu pengerjaan hingga lima tahun dan baru selesai pada 1924.
Namun ternyata perluasan pasar ini masih belum mampu menampung seluruh pedagang. Bahkan seiring waktu, jumlah pedagang yang berjualan di pasar semakin banyak sehingga pada kisaran tahun 1932 hingga 1934, Pemerintah Kota Malang membangun pasar-pasar lain untuk mengalihkan dan mengurangi jumlah pedagang di Pasar Besar Malang. Pasar yang dibangun berada di Bunul, Kebalen, Oro-Oro Dowo, Embong Brantas, dan Lowokwaru.
Berkurangnya jumlah pedagang membuat pemerintah kota menata kembali kondisi Pasar Besar Malang. Pada tahun 1935 dilakukan perbaikan sarana dan penataan ulang terhadap kumpulan los-los atau bedak yang berjualan di wilayah pasar besar. Kebersihan dari pasar mulai menjadi perhatian terutama di beberapa tempat seperti pada penjual ikan dan daging.
Pada tahun 1937, untuk memperlancar akses ke pasar, mulai dibangun stasiun bus dan oplet di belakang Pasar Besar Malang. Tahun 1941, pasar mulai dilengkapi dengan tempat penitipan sepeda serta sarana MCK bagi pengunjung. Bagian dalam bangunan ini juga semakin nyaman dengan jalan yang lebar dan pedagang yang semakin tertata.
Setelah era Hindia Belanda, tercatat terdapat renovasi pada tahun 1938 dan 1973 pada pasar ini. Pada tahun 1973, Pasar Besar Malang dibuat 2 tingkat. Perubahan terjadi pada bentuk pasar yang lebih modern dan akhirnya menjadi bertingkat. Namun perubahan paling drastis dilakukan ketika pasar dibuat menjadi bertingkat empat setelah kebakaran besar yang terjadi di sisi timur pasar pada tahun 1985. Renovasi besar-besaran pasca kebakaran tersebut dimulai tahun 1990. Pemerintah Kota Malang menunjuk PT. Surya Fortuna Kencana Setia. Nilai proyek renovasi mencapai Rp31 miliar.
Pada tahun 1991, bentuk pasar menjadi berubah dan menjadi bangunan yang sepenuhnya dikelilingi tembok di bagian luar. Selain itu, Pasar Besar Malang hadir dengan empat lantai. Lantai 1 dan 2 untuk menampung pasar tradisional. Lantai 3 untuk Matahari Department Store. Serta lantai 4 untuk Pusat Grosir Matahari. Di lantai 3 dan 4 juga diberi fasilitas tempat parkir kendaraan roda dua maupun empat. Setelah masa itu sempat terjadi kebakaran besar lagi pada tahun 2003, kebakaran bersumber dari lantai 3 Matahari Department Store. Total kerugiannya ditaksir mencapai Rp40 miliar. Pasca kebakaran, renovasi besar dilakukan. Namun, bentuk bangunan pasar tetap dan tidak berubah hingga saat ini.