В 1881 году окончил балетное отделение Театрального училища в Петербурге. В том же году был определен в труппу Александрийского театра, где играл до конца жизни.
В летние сезоны выступал в Одессе, Киеве, Харькове и других городах. Обладая блестящей внешностью, красивым голосом, изысканными манерами, в молодости исполнял роли «первых любовников»: Гамлет, Фердинанд, Чацкий. Однако свои лучшие образы он создал, когда перешел на характерные роли; играл также Протасова («Живой труп»), Тарелкина («Дело»), профессора Сторицына (одноименная пьеса Андреева). После Октябрьской революции был заведующим художественной частью бывшего Александрийского театра, затем членом директории и управляющим этого театра (до 1920 года). В 20-е годы, изредка появлявшийся на сцене Аполлонский снялся в нескольких немых фильмах. Чуть позже он стал старостой театральной церкви на Фонтанке.
Умер в 1928 году в Ленинграде, похоронен на Новодевичьем кладбище монашеским чином.