Yugoslavia mengirim atlet ke Olimpiade untuk pertama kalinya pada tahun 1920. Sebelum ini, beberapa atlet dari Kroasia, Slovenia dan Vojvodina berada di tim Olimpiade Austria atau Hongaria ketika negara-negara tersebut merupakan bagian dari Kekaisaran Austria-Hongaria. Sebuah tim kecil yang terdiri dari dua atlet dikirim dari Serbia ke Olimpiade Musim Panas 1912.
Yugoslavia telah menjadi nama untuk tim Olimpiade dari tiga negara yang berbeda:
- Kerajaan Yugoslavia (secara resmi disebut Kerajaan Serbia, Kroasia, dan Slovenia sampai tahun 1929) dari tahun 1920-1936
- Republik Federal Sosialis Yugoslavia dari tahun 1948 hingga Olimpiade Musim Dingin 1992
- Republik Federal Yugoslavia, hanya terdiri dari Montenegro dan Serbia, dari tahun 1996-2002
Dua negara yang pernah menjadi bagian dari Yugoslavia, (Kroasia dan Slovenia), mulai mengirimkan tim mereka sendiri ke Olimpiade pada Olimpiade Musim Dingin 1992. Pada Olimpiade Musim Panas 2008, keenam negara bekas bagian Yugoslavia mengirimkan tim mereka sendiri ke Olimpiade.