John Brown lahir pada tanggal 9 Mei 1800, di Torrington, Connecticut. Dia adalah anak keempat dari delapan bersaudara dari Owen Brown (1771-1856) dan Ruth Mills (1772-1808) dan cucu dari Kapten John Brown (1728-1776). Nenek moyang Brown adalah Puritan Inggris abad ke-17.
Pada tahun 1805, keluarga ini pindah ke Hudson, Ohio.[] Owen Brown membuka penyamakan kulit di sini.[] Hudson memiliki banyak aktivitas anti-perbudakan. Owen adalah bagian dari itu. Owen menyediakan rumah yang aman bagi para buronan Underground Railroad.[] Tidak ada sekolah menengah atas di Hudson pada waktu itu, jadi John belajar di sekolah dari seorang abolisionis Elizur Wright. Elizur Wright adalah ayah dari Elizur Wright, di Tallmadge terdekat. []
Ayah dari Ulysses S. Grant, Jesse R. Grant, adalah murid Owen Brown.
Ketika berusia 16 tahun, Brown meninggalkan keluarganya dan pergi ke Plainfield, Massachusetts. Dia bergabung dengan program persiapan. Tak lama kemudian, ia pergi ke Akademi Morris di Litchfield, Connecticut.
Pada tahun 1820, Brown menikahi Dianthe Lusk. Anak pertama mereka, John Jr, lahir 13 bulan kemudian. Pada tahun 1825, mencari tempat yang lebih aman (untuk budak buronan), Brown dan keluarganya pindah ke New Richmond, Pennsylvania. Dia membeli 200 acre (81 hektar) tanah. Dia membersihkan seperdelapannya, dan dia membangun kabin, lumbung, dan tempat penyamakan kulit. Tempat penyamakan kulit itu memiliki ruang rahasia untuk menyembunyikan budak yang melarikan diri. Situs Penyamakan Kulit John Brown terdaftar dalam Daftar Nasional Tempat Bersejarah pada tahun 1978. Tempat ini "merupakan perhentian utama di Jalur Kereta Api [Bawah Tanah], menandai tempatnya dalam sejarah dari tahun 1825 hingga 1835." Selama periode itu, "Brown membantu sekitar 2.500 budak melarikan diri."
Pada tahun 1829, beberapa keluarga kulit putih meminta Brown untuk membantu mereka menyingkirkan penduduk asli Amerika yang berburu setiap tahun di daerah tersebut. Brown mengatakan kepada mereka, "Saya tidak akan ada hubungannya dengan tindakan jahat [seperti] itu. Saya lebih suka mengambil pistol saya dan membantu [menyingkirkan] Anda dari negara ini." Sepanjang hidupnya, Brown menjaga hubungan damai dengan tetangga-tetangga asli Amerika-nya. Kadang-kadang dia pergi bersama mereka dalam perjalanan berburu, dan dia mengundang mereka untuk makan di rumahnya.
Pada tahun 1831, salah satu putranya meninggal. Brown jatuh sakit, dan bisnisnya mulai berjalan buruk. Hal ini membuat Brown memiliki banyak hutang. Pada musim panas tahun 1832, tak lama setelah kematian putranya yang baru lahir, istrinya Dianthe meninggal. Satu-satunya keluarga yang tersisa adalah anak-anaknya John Jr, Jason, Owen, dan Ruth. (Tiga anak mereka yang lain meninggal sebelum mereka dewasa.) Pada tanggal 14 Juni 1833, Brown menikahi Mary Ann Day yang berusia 16 tahun (15 April 1817 - 1 Mei 1884). Dia berasal dari Washington County, New York. Mereka memiliki 13 anak; yang masih hidup saat kematian John Brown adalah Salmon, Annie, Sarah, dan Ellen.
Pada tahun 1836, Brown memindahkan keluarganya ke Franklin Mills, Ohio (sekarang dikenal sebagai Kent). Di sana, dia meminjam uang untuk membeli tanah di daerah tersebut. Dia membangun dan mengoperasikan penyamakan kulit di sepanjang Sungai Cuyahoga. Rekannya adalah Zenas Kent.
Pada tahun 1837, ketika ia mengetahui bahwa Elijah P. Lovejoy dibunuh, Brown berjanji: "Di sini, di hadapan Tuhan, [dengan saksi-saksi di sekelilingku], mulai [sekarang], aku (mendedikasikan) hidupku untuk menghancurkan perbudakan!"
Dia sangat percaya pada agama Kristen. Dia percaya bahwa orang Kristen harus memperlakukan orang lain dengan sama, apa pun warna kulit mereka. Banyak orang Kristen kulit putih di Amerika pada saat ini tidak setuju dengan hal ini.