Znajduje się w pobliżu Placu Zwycięstwa i Parku Janki Kupały.
Park utworzony został w 1800 roku jako Ogrody Gubernatora. Podczas sowieckich czasów został przemianowany na "парк культуры и отдыха им. Максима Горького" (Park Kultury i Wypoczynku im A. M. Gorkiego) po słynnym rosyjskim/radzieckim pisarzu Maksymie Gorkim. Parki o tej nazwie zostały utworzone w wielu miastach Związku Radzieckiego.
Część obszaru parku jest zajęta przez park rozrywki z 56 metrowym diabelskim młynem. Posiada również edukacyjne obserwatorium z planetarium.
W Parku Gorkiego znajduje się również Pałac lodowy (kryte lodowisko).