Юзеф Коженёвский родился в селе Терехово в семье польского дворянина, поэта Аполлона Коженёвского, который являлся родственником знаменитого Евгения Кайданника. В 1861 году Аполлон Коженёвский был сослан в Вологду за участие в польском освободительном движении. Его жена, Эвелина Коженёвская (Бобровская), с четырёхлетним сыном поехала вслед за мужем.
В 1865 году в связи с болезнью жены Аполлон Коженёвский добился перевода в Чернигов. После переезда в том же году мать Юзефа умерла от чахотки. Отец с сыном переехали сперва во Львов, затем в Краков, где в 1869 году Аполлон Коженёвский умер, оставив 11-летнего Юзефа круглым сиротой. Мальчик был принят в семью Тадеуша Бобровского, дяди с материнской стороны.
Под влиянием английских и французских приключенческих романов Юзеф захотел стать моряком. В 1874 году 17-летний Юзеф с согласия Бобровского уехал в Марсель. В 1875—1877 плавал на различных судах, в том числе занимался контрабандой оружия для сторонников возведения на испанский престол дона Карлоса.
В начале 1880-х годов Конрад перебрался в Англию. На разных судах он был матросом, вторым помощником, в 1884 году сдал экзамен на звание первого помощника, а в 1886 году получил сертификат капитана. В том же году получил британское гражданство, официально изменив имя на Джозеф Конрад, и написал первый рассказ «Чёрный штурман».
В 1890 году как капитан парохода «Руа-де-Белж» совершил путешествие по реке Конго. Во время этого путешествия заболел малярией и ревматизмом, которые навсегда подорвали его здоровье. Африканские впечатления позднее лягут в основу повести «Сердце тьмы».
В 1893 году в порту Аделаида на его корабль «Торренс» сел писатель Джон Голсуорси, которому Конрад дал почитать рукопись своего первого романа «Каприз Олмейера».
В январе 1894 года Конрад вернулся в Лондон, решив покончить с морской службой. Литературный дебют Конрада состоялся в 1895 году, когда был опубликован роман «Каприз Олмейера». За ним последовали романы «Изгнанник» (1896), «Негр с „Нарцисса“» (1897), «Лорд Джим» (1900), повесть «Сердце тьмы» (1902), роман «Ностромо» (1904) и другие произведения. Под влиянием Достоевского написал несколько политических романов, среди них «Тайный агент», «Тайный сообщник»(1907) и «Глазами Запада» (1911).
Популярность Конрада росла. В 1914 году по приглашению польского литератора Юзуфа Ретингера он приехал в Польшу, откуда пришлось с трудом выбираться после начала Первой мировой войны. Готовясь писать роман о Наполеоне «Ожидание», в 1921 году Конрад побывал на Корсике, а в 1923 году посетил США. В 1924 Конрад отказался от предложенного ему рыцарского звания.
Конрад был женат на Джесси Джордж, у них родились сыновья Борис и Джон. Всю жизнь Конрад продолжал дружбу с Голсуорси, начавшуюся на борту «Торренса». Кроме того, он завязал дружеские отношения с критиком Эдвардом Гарнетом, писателями Фордом Мэдоксом Фордом, Генри Джеймсом, Гербертом Уэллсом, философом Бертраном Расселом.
Умер Джозеф Конрад 3 августа 1924 от сердечного приступа в своём доме в Бишопсборне. Роман «Ожидание» остался незаконченным.