В студенческие годы начинает писать и публиковать свои стихи в «Отечественных записках» (1840), «Москвитянине» и в студенческом альманахе «Подземные ключи» (1842). Дружит с А.Григорьевым, А.Фетом, П.Чаадаевым, Т.Грановским, И.Тургеневым.
В 1844 выходит первый сборник стихов Полонского «Гаммы», обративший на себя внимание критиков и читателей.
После окончания университета жил в Одессе. Там им был опубликован второй сборник «Стихотворения 1845 года».
В 1846 Полонский переезжает в Тифлис, поступает на службу в канцелярию и одновременно работает помощником редактора газеты «Закавказский вестник». Находясь в Грузии, Полонский обращается к прозе (статьи и очерки по этнографии), публикуя их в газете.
Грузия вдохновила его на создание в 1849 книги стихов «Сазандар» (Певец), в 1852 — исторической пьесы «Дареджана Имеретинская».
С 1851 Полонский жил в Петербурге, время от времени выезжая за границу. Сборники стихов поэта (1855 и 1859) были доброжелательно встречены разными критиками.
В 1859 — 60 был одним из редакторов журнала «Русское слово».
В общественно-литературной борьбе 1860-х Полонский не принимал участия на стороне какого-нибудь из лагерей. Он защищал поэзию «любви», противопоставляя ее поэзии «ненависти» («Для немногих», 1860; «Поэту-гражданину», 1864), хотя и признавал невозможность любви «без боли» и жизни вне проблем современности («Одному из усталых», 1863). В эти годы его поэзия подвергалась резкой критике со стороны радикальных демократов. И.Тургенев и Н.Страхов защищали от нападок самобытный талант Полонского, подчеркивая его «поклонение всему прекрасному и высокому, служение истине, добру и красоте, любовь к свободе и ненависть к насилию».
В 1880 — 90 Полонский был очень популярным поэтом. В эти годы он вернулся к темам своей ранней лирики. Вокруг него объединяются самые разные писатели, художники, ученые. Он очень внимателен к развитию творчества Надсона и Фофанова.
В 1881 выходит сборник «На закате», в 1890 — «Вечерний звон», проникнутый мотивами печали и смерти, размышлениями о мимолетности человеческого счастья.
С 1860 и до 1896 Полонский служил в Комитете иностранной цензуры, в Совете Главного управления по делам печати, что давало ему средства для существования.
Я.Полонский умер 18 октября (30 н.с.) 1898 в Петербурге. Похоронен в Рязани.