За основу песни была взята «Вечерняя песня». Это произведение композитора В. П. Соловьёва-Седого и поэта А. Д. Чуркина было очень популярно в Ленинграде и являлось неофициальным гимном города. Первые два куплета сочинил Алексей Темников (фанатское прозвище — Молодой) вместе со своей мамой; автором остальных куплетов стал Андрей Солнцев (Зонт). Первоначальный текст получился слишком длинным, и его пришлось сокращать, а оставшиеся куплеты были подвергнуты коллективной редактуре. К началу сезона 1981 года песня, которой суждено было стать гимном болельщиков «Зенита», была готова.

Песня сразу вошла в репертуар активно поддерживающих команду болельщиков и исполнялась, как правило, дважды в течение матча: через пять минут после начала игры и за пять минут до финального свистка. По воспоминаниям Евгения «Шляпы» Степанова, пели «Город над вольной Невой…» только те, кто причислял себя к фанатам «Зенита» — ходил на 33-й сектор, посещал выездные матчи команды; причём в начале 1980-х годов песня исполнялась сидя, так как в то время милиция запрещала болеть на стадионе стоя.

В настоящее время «Город над вольной Невой…» исполняется один раз — сразу после начала игры без музыкального сопровождения. Гимн начинается по сигналу «заводящего» фанатского сектора. Если игра проходит на домашнем стадионе «Зенита» — на табло выводятся слова песни, а гимн поют болельщики всех секторов стадиона (за исключением занятых фанатами команды гостей), в том числе и VIP-сектора. На выездных матчах «Зенита» «Город над вольной Невой…» исполняется «зенитовской» трибуной. При исполнении гимна поющие встают, поднимают над головой шарфы с цветами клуба и размахивают флагами. Песня не прерывается даже в том случае, если во время её исполнения «Зенит» забивает или пропускает гол.