Возник в 1698 (по официальным, но непроверенным данным - в 1646) как крепость Павловская. После возведения в ней 1704 церкви во имя благоверных князей Российских Бориса и Глеба выросшее при крепости селение именуется город Борисоглебск. При Петре I, во время подготовки к взятию Азова, в Борисоглебске заготавливался лес для постройки каботажного флота. В 1708 был захвачен участниками Булавинского восстания.
В 1708 был приписан к Азовской губернии, в 1719 вошёл в Тамбовскую губернию, с 1732 - в Воронежской губернии. С 1779 уездный город Тамбовского наместничества.
В конце 19 в. в Борисоглебске действовали женская и мужская гимназии, техническое и железнодорожное училища, 2 приходских городских училища.
6 июля ежегодно проводилась многолюдная Казанская ярмарка. На Хопёрской речной пристани отгружались зерно и мука. Ежегодно в Борисоглебске бывало до 10 тыс.
Заводы: химического машиностроения, токарных патронов, котельно-механический, кирпичный, бетонный, асфальтобетонный. Фабрики: обувная, швейная, чулочно-трикотажная.
Предприятия пищевой промышленности: молочный, пивоваренный, мясоконсервный заводы, хлебо- и мелькомбинаты.