Gim ini berlatar dunia fiksi yang sama dengan seri Halo lainnya. Sebagian besar permainan berlangsung di masa depan tahun 2552, lebih dari 500 tahun dari sekarang. Dalam alur cerita, manusia telah mengembangkan perjalanan yang lebih cepat dari cahaya, dan sekarang tinggal di banyak planet dan bulan di Tata Surya. Pada percobaan pertama manusia untuk membangun pemukiman di sebuah planet di sekitar bintang lain, mereka bertemu dengan alien Covenant. Covenant menyatakan perang agama terhadap umat manusia. Pada awal Halo 2, manusia kalah perang dan Covenant baru saja menemukan Bumi.
Halo dari judul game ini adalah nama dari serangkaian planet yang 'dibangun' oleh ras misterius yang disebut Forerunners jauh sebelum game. Halo adalah pertahanan terakhir melawan ras alien lain yang dikenal sebagai Flood. Flood ingin menggunakan setiap makhluk hidup di galaksi untuk makanan. Halo sebenarnya adalah senjata super raksasa, yang ketika diaktifkan akan membunuh semua kehidupan di galaksi. Ini adalah satu-satunya cara untuk menghentikan Flood, membuat mereka kelaparan dengan membunuh semua makanan mereka. Covenant tidak menyadari hal ini dan berusaha menembakkan Halo sebagai bagian dari ramalan agama palsu. Dalam game Halo pertama, Halo: Combat Evolved, manusia dan Master Chief berhasil menghentikan Covenant untuk menembakkan salah satu Halos. Mereka juga menghancurkan salah satu dari mereka dalam prosesnya. Tepat sebelum Halo 2 dimulai, Covenant menemukan Halo lain yang hanya bisa didapat melalui portal yang ditemukan di dekat Bumi.
Plot
Permainan dibuka dengan penyiksaan seorang alien, pemimpin Elites. Dia disiksa oleh Covenant karena dia gagal menghentikan Master Chief menghancurkan Halo pertama di game aslinya. Komandan Elite dicap oleh pemimpin Brutes, bagian lain dari Covenant. Pemain kemudian mengambil kendali Master Chief, di atas pesawat ruang angkasa yang mengorbit Bumi ketika armada Covenant yang besar tiba. Covenant datang untuk mengambil portal yang memungkinkan mereka mencapai Halo baru sehingga mereka dapat menembakkannya. Covenant menaiki kapal yang ditumpangi pemain, dan mencoba menanam bom untuk menonaktifkannya dan kapal-kapal lain di armada manusia. Pemain harus berjuang melalui pasukan Covenant untuk menonaktifkan bom. Setelah ini selesai, kapal manusia pergi, mengikuti kapal Covenant yang baru saja terbang melewatinya. Sementara itu, dalam cutscene kita melihat mantan komandan elit dijadikan pejuang religius yang dikenal sebagai Arbiter untuk menebus kegagalannya menghentikan Master Chief di Halo asli.
Dalam cutscene lain, sebuah kapal manusia dengan Master Chief, Johnson, dan Cortana di atas kapal mengikuti kapal covenant melalui portal ke Halo baru. Pemain sekarang harus mengendalikan Chief saat dia berjuang untuk menghentikan Covenant menembakkan cincin itu. Akhirnya pemain membunuh Nabi Penyesalan, seorang pemimpin Covenant, dan menghentikan Halo agar tidak ditembakkan. Sayangnya sebelum pemain dapat memulihkan Indeks, kontrol untuk menembakkan Halo, mereka ditangkap oleh pemimpin Flood, yang dikenal sebagai Gravemind. Dalam cutscene kita melihat Arbiter baru dikirim ke Halo untuk memulihkan Indeks sebelum Chief dapat menghancurkannya. Namun, ketika dia tiba, dia dan para pengikutnya dikhianati dan mantan sekutu mereka mulai menyerang. Di sini pemain harus mengontrol Arbiter dan pengikutnya saat mereka berusaha melarikan diri dari pengkhianatan dan penyergapan. Arbiter akhirnya juga ditangkap oleh Gravemind dan bertemu dengan Master Chief. Keduanya membebaskan diri dari Gravemind, yang pengikut Flood-nya sekarang telah mengambil alih kapal Covenant besar bernama High Charity. Arbiter dan Chief, yang sekarang dikendalikan oleh pemain lagi, berlomba ke kontrol Halo untuk menghentikan Covenant menembakkan cincin untuk terakhir kalinya. Mereka berhasil menghentikan Covenant, tetapi Nabi Kebenaran, pemimpin terakhir mereka melarikan diri dengan pesawat ruang angkasa tanpa cedera. Chiefs AI pendamping Cortana tetap tinggal di Halo, berjanji untuk menghancurkannya jika ada Covenant yang kembali. Chief dan Arbiter berpisah dengan Chief bersembunyi di kapal Covenant yang melarikan diri dan Arbiter dan para pengikutnya kembali ke High Charity dalam upaya untuk menyelamatkannya dari Flood.