Desain CPU superskalar membuat bentuk komputasi paralel yang disebut paralelisme tingkat instruksi di dalam CPU tunggal, yang memungkinkan lebih banyak pekerjaan dilakukan pada clock rate yang sama. Ini berarti CPU mengeksekusi lebih dari satu instruksi selama siklus clock dengan menjalankan beberapa instruksi pada saat yang sama (disebut pengiriman instruksi) pada unit fungsional duplikat. Setiap unit fungsional hanyalah sumber daya eksekusi di dalam inti CPU, seperti unit logika aritmatika (ALU), unit titik mengambang (FPU), bit shifter, atau pengganda.
Sebagian besar CPU superskalar juga dipipelined, tetapi mungkin saja memiliki CPU superskalar non-pipelined atau CPU non-superskalar pipelined.
Teknik superskalar didukung oleh beberapa fitur inti CPU:
- Instruksi berasal dari daftar instruksi yang teratur.
- Perangkat keras CPU dapat mengetahui instruksi mana yang memiliki ketergantungan data yang mana.
- Dapat membaca beberapa instruksi per siklus clock
Setiap instruksi yang dijalankan oleh prosesor skalar mengubah satu atau dua item data sekaligus, tetapi setiap instruksi yang dijalankan oleh prosesor vektor menangani banyak item data sekaligus. Prosesor superskalar adalah campuran dari keduanya:
- Setiap instruksi memproses satu item data.
- Ada beberapa unit fungsional duplikat di dalam setiap inti CPU, sehingga beberapa instruksi menangani item data independen pada saat yang sama.
Dalam CPU superskalar, dispatcher instruksi membaca instruksi dari memori dan memutuskan mana yang dapat dijalankan secara paralel, mengirimkannya pada beberapa unit fungsional duplikat yang tersedia di dalam CPU.
Desain CPU superskalar berkaitan dengan peningkatan akurasi dispatcher instruksi, dan memungkinkannya untuk menjaga beberapa unit fungsional tetap sibuk setiap saat. Pada tahun 2008, semua CPU tujuan umum adalah superskalar, CPU superskalar tipikal dapat mencakup hingga 4 ALU, 2 FPU, dan dua unit SIMD. Jika dispatcher tidak dapat membuat semua unit sibuk, kinerja CPU akan lebih rendah.


