Отец, Георгий Максимович Паустовский, был железнодорожным статистиком, происходил из запорожских казаков. Дедушка, Максим Григорьевич Паустовский — бывший николаевский солдат; бабушка Гонората (до принятия христианства Фатьма) — турчанка (родилась в Казанлыке во Фракии). Мать Константина Георгиевича Паустовского, Мария Григорьевна, рожденная Высочанская. Другой дедушка Константина Георгиевича Паустовского — Григорий Моисеевич Высочанский, нотариус в Черкассах, другая бабушка Константина Георгиевича Паустовского — Викентия (Wincentia), польская шляхтянка.
Паустовский родился в Москве, но его семья несколько раз переезжала с места на место, сначала в Псков, потом в Вильно, и, в конце концов, обосновалась в Киеве. Отец Паустовского служил статистиком в управлении железной дороги, и, по словам самого писателя, частыми переездами семья была обязана его неуживчивому характеру.
Паустовский учился в Киевской классической гимназии. По окончании гимназии в 1912 он поступил в Киевский университет, на историко-филологический факультет, затем перевелся в Московский университет, на юридический факультет. Первая мировая война заставила его прервать учёбу. Паустовский стал вожатым на московском трамвае, работал на санитарном поезде. В 1915 с полевым санитарным отрядом отступал вместе с русской армией по Польше и Белоруссии.
После гибели двух его братьев Паустовский вернулся в Москву к матери, но через некоторое время уехал оттуда. В этот период он работал на Брянском металлургическом заводе в Екатеринославе, на Новороссийском металлургическом заводе в Юзовке, на котельном заводе в Таганроге, в рыбачьей артели на Азовском море. В свободное время начал писать свою первую повесть «Романтики», которая вышла в свет только в 1930-х в Москве. После начала Февральской революции уехал в Москву, стал работать репортёром в газетах, оказавшись свидетелем всех событий в Москве в дни Октябрьской революции. Во время гражданской войны служил в Красной Армии в караульном полку. Впоследствии переехал в Киев, много ездил по югу России, жил два года в Одессе, работая в газете «Моряк». Из Одессы Паустовский уехал на Кавказ, живя в Сухуми, Батуми, Тбилиси, Ереване, Баку. В 1923 Паустовский вернулся в Москву. Несколько лет работал редактором РОСТА и начал печататься. В 1930-е годы Паустовский активно работал как журналист газеты «Правда» и журналов «30 дней», «Наши достижения» и др., много путешествовал по стране. Многие впечатления этих поездок воплотились в художественных произведениях.
Летом 1931 года выезжает в Ливны, где пишет повесть «Кара-Бугаз», ставшею для него ключевой.
В годы Великой Отечественной войны Паустовский работал военным корреспондентом на Южном Фронте и писал рассказы. В 1950-е годы Паустовский жил в Москве и в Тарусе на Оке. Стал одним из составителей важнейших коллективных сборников демократического направления «Литературная Москва» (1956) и «Тарусские страницы» (1961). В 1965 году был вероятным кандидатом на Нобелевскую Премию. Награждён орденом Ленина, другими орденами и медалью.