Nama sungai ini berasal dari kata Algonquian, lappihanne (juga tercatat sebagai toppehannock), yang berarti "sungai yang cepat, air yang naik" atau "tempat air pasang surut dan mengalir," nama yang digunakan oleh penduduk asli setempat, suku Rappahannock.
Meskipun telah ada beberapa dusun kecil di sepanjang Rappahannock bagian bawah selama masa kolonial awal, pemukiman lembah Sungai Rappahannock dimulai dengan sungguh-sungguh selama tahun-tahun pertama abad ke-18, atas desakan Gubernur Alexander Spotswood. Sungai James telah disurvei hingga garis jatuhnya, titik di mana, secara geologis, batuan dasar kontinental Piedmont bertemu dengan batuan sedimen dan tanah aluvial dataran pantai. Spotswood mendorong pemukiman di lembah sungai selain lembah sungai James. Pada tahun 1714, dia mulai mencari imigran dari Rhineland-Palatinate dan Swiss untuk menetap di tanah yang dikuasainya di dekat tempat Rappahannock dan Rapidan bersatu. Dikenal sebagai pemukiman Germanna, desa-desa ini didirikan untuk mengeksploitasi endapan bijih besi di wilayah tersebut.
Pertempuran Sungai Rappahannock terjadi di sungai ini selama Perang 1812. Tujuh belas kapal Inggris yang diisi dengan ratusan marinir dan pelaut menangkap empat privateer Amerika.
Selama Perang Saudara Amerika, sungai, dengan sedikit arungan yang nyaman dan lebih sedikit jembatan, memberikan penghalang dan garis pertahanan. Di belakang garis ini, pasukan hanya memiliki sedikit rasa takut akan serangan dari sisi sungai. Itu adalah penghalang yang sangat sulit untuk diatasi oleh pasukan Union dalam upaya mereka untuk menyerbu ke Virginia selatan. Kendali sungai berpindah tangan berkali-kali selama perang berlangsung. Pertempuran penting yang terjadi di sepanjang sungai termasuk Pertempuran Fredericksburg dan Pertempuran Stasiun Rappahannock. Garis pertahanan di sungai akhirnya dilewati oleh Ulysses S. Grant dalam Kampanye Wilderness (atau Overland) tahun 1864, yang berakhir dengan kemenangan Union.
Dalam beberapa dokumen abad ke-18 dan ke-19, termasuk beberapa catatan Perang Saudara, Sungai Rappahannock disebut sebagai "Sungai Hedgeman" Survei tahun 1736-1737 memberi label Rappahannock di atas muara Rapidan sebagai "Meriam", dan lebih jauh ke hulu sungai ini diidentifikasi sebagai "Sungai Hedgeman," yang dinamai sesuai nama Nathaniel Hedgeman, seorang pemukim awal di wilayah tersebut.
