Cогласно легенде город был назван в честь смелой девушки, которая провела славян по тайным тропам в тыл татарам, осадившим поселение. Благодаря ей враг был разбит, но сама она погибла от татарской стрелы. Эта девушка изображена на гербе города.

Первое упоминание о Смеле датируется XVI веком, когда она была частью Речи Посполитой, однако в ходе раскопок были найдены предметы, относящиеся к XII веку, что может свидетельствовать о том, что Смела старше на 400 лет. В течение столетий город имел разные названия: поселок Яцково-Тясмино, слобода Тясмин, городок Тясмин и, наконец, Смела.

Официальной датой рождения города считают 1542 год. В 1773 Смела обрела магдебургское право. В 1795 году город отошёл к Российской империи, после чего в 1830-х началась промышленное развитие.

Важную роль в развитии города сыграл граф Алексей Бобринский, основавший здесь в 1838 году сахарную фабрику и в 1840 году механический завод. Он же основал и две гимназии (мужскую и женскую).
Экономический подъём усилился в связи с прокладкой через Смелу железной дороги Фастов-Знаменка в 1876 году. В первой половине XX века город сильно пострадал от обеих мировых войн и голодомора.

Среди достопримечательностей города – краеведческий музей, городской центр туризма и краеведения, римско-католический костёл Успения Пресвятой Марии, православный Собор Успения пресвятой Богородицы, Мемориал Памяти. Гостям города будет интересен вагон-музей – история железнодорожного развития города.