Nama kota ini diambil dari nama sungai (bahasa Rusia kuno: гра́д Моско́в, yang berarti "kota di sebelah Sungai Moskva"). Awal mula nama ini tidak diketahui, tetapi beberapa orang memiliki beberapa ide. Salah satunya adalah bahwa nama itu mungkin berasal dari bahasa Finlandia yang sangat tua, yang berarti "gelap" dan "berawan". Referensi Rusia pertama untuk Moskow berasal dari tahun 1147 ketika Yuri Dolgoruki memanggil pangeran Novgorod-Severski (Novgorod Utara) untuk "datanglah kepadaku, saudaraku, ke Moskow."
Sembilan tahun kemudian, pada 1156, Pangeran Yuri Dolgoruki memerintahkan pembangunan tembok kayu, yang harus diulang berkali-kali, untuk mengelilingi kota yang sedang tumbuh. Setelah serangan 1237-1238, ketika bangsa Mongol membakar kota hingga rata dengan tanah dan membunuh orang-orang yang tinggal di sana, Moskow tumbuh kembali dan menjadi ibu kota kerajaan Vladimir-Suzdal (sejumlah tanah yang diperintah oleh seorang pangeran) pada 1327. Tempatnya yang bagus di awal Sungai Volga membantu kota ini tumbuh perlahan-lahan menjadi lebih besar dan lebih besar. Moskow berubah menjadi kerajaan yang damai dan kaya, yang dikenal sebagai Kadipaten Agung Moskow, selama bertahun-tahun dan sejumlah besar orang dari seluruh Rusia pindah untuk tinggal di sana.
Di bawah Ivan I, kota ini menggantikan Tver sebagai pusat politik Vladimir-Suzdal dan menjadi satu-satunya pemungut pajak untuk penguasa Mongol-Tatar. Dengan membayar pajak yang tinggi, Ivan membuat kesepakatan penting dengan Khan. Tidak seperti kerajaan lain, Moskow tidak dibagi-bagi di antara putra-putranya, tetapi diwariskan secara keseluruhan kepada anak tertuanya. Namun, Moskow tidak menyukai pemerintahan Mongol. Pada 1380, Pangeran Dmitry Donskoy dari Moskow memimpin pasukan Rusia untuk meraih kemenangan penting atas Tatar dalam Pertempuran Kulikovo. Hanya dua tahun kemudian, Moskow diserbu oleh Khan Tokhtamysh. Pada 1480, Ivan III akhirnya membebaskan Rusia dari kendali Tatar, memungkinkan Moskow menjadi pusat kekuasaan di Rusia. Di bawah Ivan III, kota ini menjadi ibu kota sebuah kekaisaran yang pada akhirnya akan mencakup seluruh Rusia dan negara-negara lain.
Pada 1571, Tatar Krimea menyerbu Moskow, membakar semuanya kecuali Kremlin.
Pada 1609, tentara Swedia, yang dipimpin oleh Count Jacob De la Gardie dan Evert Horn, berbaris dari Veliky Novgorod menuju Moskow untuk membantu Tsar Vasili Shuiski. Mereka memasuki Moskow pada 1610 dan menghentikan revolusi melawan Tsar, tetapi pergi lebih awal pada 1611. Setelah itu, Polandia menyerbu. Selama Perang Polandia-Muskovit (1605-1618), Hetman (komandan tentara) Stanisław Żółkiewski memasuki Moskow setelah ia mengalahkan Rusia dalam Pertempuran Klushino. Abad ke-17 memiliki banyak revolusi, seperti Kerusuhan Garam (1648), Kerusuhan Tembaga (1662), dan Pemberontakan Moskow 1682.
Wabah tahun 1654-1656 menewaskan setengah populasi Moskow. Kota ini berhenti menjadi ibu kota Rusia pada tahun 1712, setelah dibangunnya Saint Petersburg oleh Pyotr yang Agung di dekat pantai Baltik pada tahun 1703. Wabah 1771 adalah wabah besar terakhir di Rusia tengah, menewaskan 100.000 orang di Moskow saja. Selama invasi Prancis ke Rusia pada tahun 1812, orang-orang Moskow membakar kota dan melarikan diri, saat tentara Napoleon mendekati kota pada 14 September. Tentara Napoleon, yang sangat lapar dan kedinginan harus pergi dan hampir hancur oleh musim dingin Rusia yang membekukan dan beberapa serangan oleh tentara.
Pada Januari 1905, Alexander Adrianov menjadi wali kota pertama Moskow. Setelah Revolusi Rusia 1917, pada 12 Maret 1918 Moskow menjadi ibu kota Uni Soviet. Selama Perang Dunia II (dikenal di Rusia sebagai Perang Patriotik Raya), setelah invasi Jerman ke Uni Soviet, Kelompok Pertahanan Negara Soviet dan komandan Tentara Merah ditempatkan di Moskow.
Pada tahun 1941, 16 kelompok sukarelawan nasional (lebih dari 160.000 orang), dua puluh lima batalion (18.500 orang), dan empat resimen teknik dibentuk di antara orang-orang Moskow. Pada bulan November itu, Angkatan Darat Jerman dihentikan di tepi kota dan kemudian diusir dalam Pertempuran Moskow. Banyak pabrik dipindahkan, dan sebagian besar pemerintah juga, dan sejak 20 Oktober kota itu dinyatakan berada di bawah pengepungan. Orang-orang yang tinggal di sana membangun dan menggunakan pertahanan antitank, sementara kota itu dibom dari udara. Joseph Stalin (pemimpin Rusia) tidak meninggalkan kota, sehingga staf umum juga tetap tinggal di kota. Bahkan dengan pengepungan yang terjadi, pembangunan sistem Metro Moskow terus berlanjut selama perang, dan pada akhir perang, beberapa jalur metro baru dibuka.
Pada tanggal 1 Mei 1944, sebuah medali untuk pertahanan Moskow dan pada tahun 1947 medali lain untuk mengenang 800 tahun Moskow diberikan kepada Moskow. Dalam rangka memperingati 20 tahun kemenangan atas Nazi Jerman, pada 8 Mei 1965, Moskow menjadi salah satu dari dua belas kota Soviet yang dianugerahi gelar Kota Pahlawan.
Pada tahun 1980, Moskow menjadi tuan rumah Olimpiade Musim Panas, yang tidak dihadiri oleh Amerika Serikat dan beberapa negara Barat lainnya karena perang Uni Soviet di Afghanistan pada akhir tahun 1979. Pada tahun 1991, Moskow adalah tempat upaya penggulingan yang gagal oleh anggota pemerintah yang menentang aturan Mikhail Gorbachev. Ketika Uni Soviet berakhir pada tahun yang sama, Moskow tetap menjadi ibu kota Rusia.
Sejak itu, awal ekonomi pasar di Moskow telah membuat ledakan toko, layanan, arsitektur, dan gaya hidup bergaya Barat. Pada tahun 1998, kota ini menjadi tuan rumah World Youth Games pertama.