Окончил театроведческий факультет Ленинградского института театра музыки и кинематографии. Основал «Аквариум» в 1972 году вместе с Борисом Гребенщиковым. До своего ухода из группы был ударником и автором текстов многих песен. В 1975 оставил музыкальную деятельность ради театра, но песни на его стихи появлялись ещё в нескольких альбомах «Аквариума» (особенно много их было на альбоме «Треугольник»).
В 1982 году окончил театроведческий факультет ЛГИТМиКа. В 1980-е начал журналистскую деятельность в журнале «Рокси» и на радио (сначала в качестве внештатного автора, с 1987 — как ведущий авторской передачи). Был членом совета Ленинградского рок-клуба.
Драматург, поэт и писатель; представитель стиля абсурдизм. Пьесы «До самых высот», «Смерть безбилетника» ставились в нескольких театрах, в том числе Театре сатиры на Васильевском.
В 2000 году проектом «Террариум», в состав которого вошли музыканты Аквариума, Вячеслав Бутусов, Максим Леонидов, Настя Полева и Александр Васильев, был выпущен альбом Пятиугольный грех с песнями на стихи Гуницкого. Песня «Гибралтар/Лабрадор» вошла в саундтрек фильма Брат-2 и стала хитом. В 2010 году снимался в телесериале Приставы — (серия «Роковая песня»).