Rincian penemuan Pulau Gough tidak jelas, tetapi yang paling mungkin adalah Juli 1505 oleh penjelajah Portugis Gonçalo Álvares. Peta-peta selama tiga abad berikutnya menamai pulau ini dengan namanya. Pada beberapa peta kemudian, ini keliru diberikan sebagai Diego Alvarez.
Menurut beberapa sejarawan, pedagang Inggris Anthony de la Roché adalah orang pertama yang mendarat di pulau ini pada musim gugur austral tahun 1675.
Charles Gough menemukan kembali pulau itu pada tanggal 3 Maret 1732. Ia mengira pulau ini merupakan temuan baru. Pulau ini telah dinamai Gonçalo Álvares sejak tahun 1505, diambil dari nama kapten kapal Vasco da Gama dalam pelayaran epiknya ke timur. Di bawah nama inilah, lokasi itu ditandai dengan akurasi yang wajar pada peta Atlantik Selatan selama 230 tahun berikutnya atau lebih.
Kemudian, pada tahun 1732, Kapten Gough dari kapal Inggris Richmond melaporkan penemuan sebuah pulau baru. Dia menempatkannya 400 mil di sebelah timur Gonçalo Álvares. Lima puluh tahun kemudian, para kartografer menyadari bahwa kedua pulau itu sama. Terlepas dari prioritas penemuan Portugis, dan akurasi yang lebih besar dari posisi yang diberikan oleh mereka, "Pulau Gough" adalah nama yang diadopsi.
Pada awal abad ke-19, para penyegel sempat mendiami pulau itu. Contoh paling awal yang diketahui adalah geng penyegel dari kapal AS Rambler (Kapten Joseph Bowditch) yang tetap berada di pulau itu pada musim 1804-1805. Era penyegelan berlangsung dari tahun 1804 hingga 1910 di mana 34 kapal penyegel diketahui telah mengunjungi pulau itu, salah satunya hilang di lepas pantai.
Ekspedisi Antartika Nasional Skotlandia di Scotia melakukan kunjungan pertama ke pulau ini oleh kelompok ilmiah pada tanggal 21 April 1904, ketika William Speirs Bruce dan yang lainnya mengumpulkan spesimen. Ekspedisi Shackleton-Rowett juga singgah di pulau ini pada tahun 1922.
Pulau Gough secara resmi diklaim pada tahun 1938 untuk Inggris, selama kunjungan oleh HMS Milford dari Royal Navy. Pada tahun 1995, pulau ini diinskripsi sebagai Situs Warisan Dunia UNESCO. Pada tahun 2004, situs ini diperluas untuk mencakup Pulau Tak Dapat Diakses dan berganti nama menjadi Pulau Gough dan Tak Dapat Diakses.
Pulau Gough adalah satu-satunya tempat di luar Amerika Selatan di mana gerhana matahari 12 September 2034 akan terlihat; pusat jalur totalitas melintasi pulau ini.