Hildesheim adalah salah satu kota tertua di Jerman Utara. Kota ini mungkin didirikan ketika uskup pindah dari Elze ke ford Innerste, di mana kota ini merupakan pasar penting di rute perdagangan Hellweg. Pemukiman ini segera tumbuh menjadi kota yang diberikan hak pasar oleh Raja Otto III pada tahun 983. Awalnya pasar diadakan di sebuah jalan yang disebut Pasar Lama (Alter Markt), yang masih ada sampai sekarang. Tempat pasar pertama diletakkan di sekitar Gereja Santo Andreas. Seiring dengan pertumbuhan kota yang semakin besar, pasar yang lebih besar menjadi lebih penting. Pasar yang ada di Hildesheim saat ini dibuat pada awal abad ke-13 ketika kota ini berpenduduk sekitar 5.000 jiwa. Ketika Hildesheim memperoleh hak kota pada tahun 1249, Hildesheim merupakan salah satu kota terbesar di Jerman Utara. Selama empat abad para pendeta memerintah Hildesheim, sebelum balai kota dibangun dan warga memperoleh pengaruh dan kemerdekaan. Pembangunan Balai Kota yang sekarang dimulai pada tahun 1268, dan pada tahun 1367 Hildesheim menjadi anggota Liga Hanseatic. Perang antara warga dan uskup mereka menelan biaya mahal pada tahun 1519-1523 ketika mereka terlibat dalam perseteruan. Hildesheim menjadi Protestan pada tahun 1542, dan hanya katedral dan beberapa bangunan lain yang tetap berada di tangan Kekaisaran (Katolik Roma). Beberapa desa di sekitar kota juga tetap menjadi Katolik Roma. Pada tahun 1813, setelah Perang Napoleon, kota ini menjadi bagian dari Kerajaan Hanover, yang dianeksasi oleh Kerajaan Prusia setelah Perang Austro-Prusia pada tahun 1866 sebagai provinsi.
Kota ini dibom pada Perang Dunia II, tetapi pemboman itu tidak terlalu penting selama perang. 28,5% rumah hancur dan 44,7% rusak. 26,8% rumah tidak mengalami kerusakan. Pusat kota, yang masih memiliki karakter abad pertengahan sampai saat itu, hampir rata. Seperti di banyak kota, prioritas diberikan pada pembangunan cepat perumahan yang sangat dibutuhkan, dan struktur beton menggantikan bangunan yang hancur. Untungnya, sebagian besar gereja-gereja utama, dua di antaranya sekarang menjadi Situs Warisan Dunia UNESCO, dibangun kembali dengan gaya asli segera setelah perang. Selama perang, bahan-bahan warisan dunia yang berharga telah disembunyikan di ruang bawah tanah tembok kota. Pada tahun 1978, Universitas Hildesheim didirikan. Pada tahun 1980-an, rekonstruksi pusat bersejarah dimulai. Beberapa bangunan beton baru di dekat pasar dirobohkan. Replika bangunan asli dibangun sebagai gantinya.