Kisah ini terjadi pada saat Spanyol baru saja mengakhiri perang dengan Prancis. Telah disepakati antara kedua negara bahwa Don Carlos, pewaris takhta Spanyol, akan menikahi Elisabeth, putri Raja Perancis.
Babak I
Don Carlos ingin melihat gadis yang akan dinikahinya. Ia pergi ke Perancis dan, secara diam-diam, bergabung dengan perburuan kerajaan di mana Elisabeth ikut ambil bagian. Elisabeth dan pengiringnya terpisah dari yang lain. Carlos berbicara kepadanya dan menawarkan untuk membawanya pulang. Sang putri bertanya kepadanya tentang pangeran yang akan dinikahinya. Carlos mengatakan bahwa sang putri tidak perlu khawatir karena sang pangeran baik hati dan mencintainya. Ia kemudian menunjukkan foto sang pangeran kepada Elisabeth, dan Elisabeth tentu saja menyadari bahwa itu adalah pangeran yang sedang berbicara dengannya. Mereka berduet menyanyikan lagu duet cinta.
Beberapa pejabat Spanyol kemudian datang dan mengatakan kepada Elisabeth bahwa telah diputuskan bahwa ia tidak akan menikahi sang pangeran: ia akan menikahi ayahnya, raja Spanyol. Kedua kekasih itu kecewa mendengar berita ini. Kerumunan orang memohon kepada Elisabeth untuk setuju menikahi Raja Spanyol, sehingga perang akan berhenti. Pada akhirnya ia setuju.
Babak II
Don Carlos pergi ke biara agar ia bisa tenang dalam kesengsaraannya. Kakeknya, Charles V, telah menghabiskan hari-hari terakhirnya di biara ini. Seorang biarawan berbicara kepadanya. Carlos berpikir bahwa biarawan itu mirip kakeknya.
Carlos dipenuhi dengan kegembiraan ketika temannya Rodrigue datang. Ia baru saja kembali dari Flanders, di mana masih banyak pertempuran. Carlos menceritakan sebuah rahasia kepadanya: bahwa ia jatuh cinta pada Elisabeth yang sekarang telah menikahi ayahnya dan karena itu menjadi Ratu Spanyol. Rodrigue mengatakan kepadanya bahwa ia harus menghabiskan waktunya untuk membantu orang-orang miskin di Flanders. Raja dan Ratu melewati makam.
Ketika Ratu meninggalkan gereja, ia pergi ke taman di mana para dayang-dayangnya menunggunya. Seorang utusan memberinya surat dari ibunya di Paris, tetapi pada saat yang sama dia diam-diam memberinya surat dari Carlos. Rodrigue diam-diam berbicara dengan Eboli, wanita yang menunggu ratu, sementara ratu membaca surat-surat itu. Rodrigue meminta Ratu untuk mencoba membujuk raja untuk membiarkan Carlos berbicara dengannya. Eboli jatuh cinta pada Carlos. Dia telah memperhatikan bagaimana Carlos gelisah ketika dia berada di hadapan Ratu, dan berpikir itu karena Carlos mencintainya (Eboli).
Carlos diberi kesempatan untuk bertemu Elisabeth secara pribadi. Dengan tenang ia bertanya apakah Elisabeth dapat membujuk Raja untuk mengirimnya ke Flanders. Namun, ia tidak benar-benar tenang, dan segera ia mulai marah padanya karena tidak menunjukkan perasaan cinta padanya. Dia mengatakan kepadanya bahwa itu adalah tugasnya sekarang karena dia adalah Ratu. Carlos mengerti, tetapi masih jatuh cinta padanya. Dia jatuh di kakinya. Dia meraihnya dan menyatakan cintanya padanya, tetapi Ratu merobek dirinya darinya dan dia bergegas pergi dengan putus asa.
Sang Raja keluar dari gereja. Ia sangat sedih karena istrinya ditinggalkan sendirian. Ia menyuruh dayang-dayang untuk pergi. Sang Ratu menghiburnya. Kemudian ia dan dayang-dayangnya pergi.
Rodrigue meminta Raja untuk berhenti memerangi rakyat Flanders yang masih sekarat dan kelaparan karena kelaparan. Raja mengatakan bahwa mereka tidak setia dan pantas dihukum. Dia mengatakan kepada Rodrigue bahwa dia takut dengan apa yang terjadi antara Elisabeth dan Carlos. Dia menyuruhnya untuk waspada terhadap Inkuisisi.
Babak III
Sebuah pesta topeng sedang berlangsung di istana di Madrid. Carlos sedang menunggu di taman Ratu. Seorang wanita datang ke taman, mengenakan topeng, seperti orang lain. Carlos mengira wanita itu adalah Ratu dan mengatakan betapa ia mencintainya. Ketika wanita itu melepas topengnya, Carlos menyadari bahwa itu adalah Eboni. Dia menuduhnya mencintai Ratu. Pada saat itu Rodrigue datang. Dia mengatakan kepada Eboni bahwa Carlos tidak sehat dan tidak mengerti apa yang dia bicarakan. Tetapi Eboni tidak tertipu dan berencana untuk menghancurkan hubungan cinta mereka.
Adegan kedua dari babak ini berlangsung di sebuah alun-alun di Madrid. Sebuah auto-da-fé sedang dipersiapkan. Selama masa Inkuisisi Spanyol, ini adalah upacara di mana siapa pun yang tidak setuju dengan gereja Katolik Roma dibakar sampai mati. Para biarawan masuk, diikuti oleh orang-orang malang yang akan dibakar. Orang-orang bernyanyi tentang kejayaan Spanyol. Raja Philippe muncul dan mengulangi bagaimana ia akan melawan siapa pun yang merupakan musuh Gereja Katolik Roma. Enam orang, termasuk Carlos, muncul dan melemparkan diri mereka ke kakinya, memohon kepadanya untuk menghentikan pasukannya dari membunuh orang-orang Flemish. Raja tidak mau mendengarnya. Beberapa dari kerumunan mendukung raja, tetapi yang lain memohon kepadanya untuk berbelas kasihan. Carlos kemudian meminta ayahnya untuk mengizinkannya memerintah Flanders untuknya. Raja tidak mengizinkan hal ini, karena ia menyadari bahwa ini bisa menjadi kesempatan bagi Carlos dan orang-orang Flemish untuk bangkit melawannya. Carlos putus asa. Dia menghunus pedangnya dan mengatakan bahwa dia akan menyelamatkan Flanders. Kerumunan orang banyak sangat ketakutan melihatnya berperilaku seperti ini di depan Raja. Raja memerintahkan tentaranya untuk mengambil pedang dari Carlos, tetapi tidak ada yang mematuhinya. Pada akhirnya, Rodrigue (yang menyadari bahwa ini akan berdampak buruk baginya) menyelamatkan situasi dengan dengan tenang meminta pedang itu kepada Carlos. Dia menyerahkannya dan Rodrigue memberikannya kepada Raja. Para biarawan berproses lebih jauh, dan sebuah suara dari surga menjanjikan kedamaian di dunia yang akan datang.
ActIV
Sang Raja sendirian di gereja. Dalam sebuah aria yang indah, ia menyanyikan kesedihannya karena istrinya tampaknya tidak mencintainya. Penyelidik Agung masuk. Ia sudah sangat tua, dan buta. Raja menceritakan tentang putranya, dan bertanya kepada Inkuisitor apakah Carlos harus diampuni atau dihukum mati. Inkuisitor menjawab bahwa Rodrigue-lah yang harus dibunuh. Raja berani tidak setuju. Inkuisitor mengatakan kepada Raja bahwa dia tidak memberikan hatinya kepada Tuhan. Inkuisitor pergi.
Sang Ratu bergegas masuk dan meminta Raja untuk membantunya mencari peti permata yang telah hilang dari kamarnya. Sang Raja menunjukkan bahwa peti itu ada di atas meja. Raja mengatakan bahwa ia harus membukanya. Dia melakukannya. Di bagian atas terdapat potret Carlos. Raja sangat marah dan menuduhnya berzinah. Dia pingsan. Raja memanggil Eboli dan Rodrigue untuk meminta bantuan. Raja merasa menyesal atas kecurigaannya, tetapi Eboli merasa lebih menyesal karena dialah yang telah mengambil peti mati itu karena dia cemburu pada Carlos dan Elisabeth. Dialah yang menyarankan Raja untuk melihat kotak permata itu. Rodrigue merasa ia hanya bisa menyelamatkan temannya dengan menawarkan dirinya untuk dibunuh, bukan Carlos. Raja dan Rodrigue pergi. Eboni melemparkan dirinya ke kaki Ratu, yang sekarang telah hidup kembali, dan mengaku bahwa dia sendiri bersalah karena telah berzinah karena dia telah tidur dengan raja. Elisabeth tetap tenang, tetapi menyuruh Eboni pergi darinya untuk selama-lamanya dan tinggal di biara. Ketika Eboni ditinggalkan sendirian, ia mengungkapkan perasaannya yang sangat menyedihkan. Sebelum ia pergi ke biara, ia memiliki satu hal lagi yang harus dilakukan: mencoba menyelamatkan Carlos dari hukuman mati.
Adegan kedua dari babak ini menunjukkan Carlos di penjara. Rodrigue datang kepadanya. Dia tahu bahwa surat-surat Flemish yang ditujukan kepada Carlos telah ditemukan dalam kepemilikannya. Seseorang masuk dan membunuh Rodrigue. Saat dia meninggal, dia memberi tahu Carlos bahwa Ratu akan menunggunya keesokan harinya di luar biara dan akan melihatnya untuk terakhir kalinya. Dia meninggal.
Kadang-kadang Babak IV berakhir di sini, tetapi beberapa pertunjukan terus menampilkan adegan di mana Raja mencoba memberikan pedang kembali kepada putranya, tetapi Carlos menuduhnya telah membunuh temannya. Sekelompok orang, termasuk Eboli, memasuki penjara dan menangis kepada Raja untuk membebaskan Carlos. Inkuisitor muncul. Dia mengatakan kepada orang banyak dengan marah bahwa mereka jahat karena melawan kehendak Tuhan. Ia menyuruh mereka semua untuk berlutut dan bertobat.
Babak V
Elisabeth berlutut di depan makam Charles V. Dia menyanyikan tentang masa mudanya yang hilang di Perancis (beberapa musik dari Babak I kembali ke sini). Dia berdoa untuk perdamaian. Elisabeth dan Carlos kemudian bertemu untuk terakhir kalinya (duet ketiga mereka dalam opera) dan berharap untuk masa-masa yang lebih bahagia. Raja dan Inkuisitor telah bersembunyi. Mereka sekarang muncul dan menangkap Carlos. Para penjaga disuruh menangkapnya, tetapi Carlos membela diri. Tiba-tiba suara Charles V (atau seorang biarawan yang menyamar) terdengar. Dia membawa cucunya ke tempat aman di biara.
