Здание было построено еще до пожара 1788 г. советником Рязановым. Затем принадлежало купцу и фабриканту Василию Яковлевичу Корнильеву. После Большого пожара Корнильевы передали дом губернатору Александру Васильевичу Алябьеву. Тобольские предания рассказывают, как однажды сын губернатора мальчик Александр, будущий композитор и герой Отечественной войны 1812 года, выпал из окна этого дома.
В 1789 г. в Тобольске было открыто главное народное училище. Сначала оно размещалось на улице Пиляцкой за Абрамовским мостом. В 1796 г. училище было переведено в здание на Богоявленской улице. Алябьевы к тому времени из Тобольска уже уехали.
В 1810 г. училище реорганизовано в мужскую гимназию. Первым директором гимназии стал коллежский советник Август Христианович Эйбен, который с 1808 г. являлся директором народного училища. Готовясь к открытию гимназии, Эйбен подобрал штатных преподавателей и произвел реконструкцию учебного корпуса ‑ каменные стены были удлинены на 10 сажен. На втором этаже пристройки разместились 8 классов, на первом квартиры преподавателей. Это была первая и единственная гимназия в Тобольской губернии, поэтому она получила название «Тобольская губернская гимназия».
Эйбен пробыл директором гимназии четыре года. Его сменил Адам Иванович Арнгольдт. В феврале 1817 г. по прошению Арнгольдт оставил пост директора Тобольской мужской гимназии. Его сменил Иван Андреевич Набережнин. Набережнин руководил гимназией совсем недолго с сентября по ноябрь 1818 года. Он ничего не успел сделать, в виду внезапной смерти.
После Набережнина гимназию возглавлял Григорий Абрамович Протопопов. При нем здание гимназии в 1824 г. было вторично перестроено по проекту губернского архитектора Малышева.
Гимназия соответствовала статусу губернской. Здание было довольно примечательно у входа его украшали колонны, классический портик, а фронтон венчала скульптура римской богини мудрости Минервы.
Учились в гимназии четыре года. Изучали закон Божий, историю, географию, политическую экономию, математику, физику, логику, рисование, изящные науки и многое другое.
С ноября 1827 г. директором гимназии являлся Иван Павлович Менделеев. Ум, образованность и культура выделяли его из окружения. В гимназии Иван Павлович ввел еженедельное воскресное чтение новых литературных произведений отечественных и зарубежных авторов. Одним из учеников Менделеева был Петр Павлович Ершов. В доме Менделеевых часто бывали жившие на поселении декабристы. 27 сентября 1834 г. Иван Павлович Менделеев по состоянию здоровья ушел в отставку. До назначения нового директора исполняющим делами гимназии был учитель истории, географии и статистики Иван Помаскин.
22 октября 1834 г. на должность директора был назначен бывший директор Пермской гимназии Василий Осипович Грибовский. Грибовский управлял гимназией до 7 апреля 1837 года. Затем он вышел в отставку и вернулся в Пермь. На пост директора был назначен инспектор Тобольской мужской гимназии Евгений Михайлович Качурин.
3 июня 1837 г. гимназию посетил наследник престола цесаревич Александр Николаевич. Среди прочих преподавателей ему представили молодого учителя словесности Петра Павловича Ершова, автора народной сказки «Конек-Горбунок». Ершов преподнес наследнику престола свои хвалебные стихи, за что ему были вручены золотые часы на цепочке.
Летом 1849 г. Качурин ушел в отставку. В июне 1849 г. на должность директора гимназии был назначен Порфирий Матвеевич Чигиринцев. На должность Чигиринцев официально утвержден был только 4 января 1850 г., а до этого обязанности директора исполнял инспектор гимназии Петр Павлович Ершов. Чигиринцев был директором гимназии до 1856 года.
В 1857—1863 гг. директором гимназии являлся Петр Павлович Ершов. Учились в гимназии Дмитрий Иванович Менделеев и сын декабриста Ивана Алексеевича Анненкова Владимир. Весной 1863 г. Ершов из-за болезни вышел в отставку. Его сменил Филолог Васильевич Рудаков, который руководил гимназией до июня 1879 года.
Состав преподавателей Тобольской мужской гимназии в 1864 г. был следующий:
Директор ‑ надворный советник Филолог Васильевич Рудаков.
Инспектор ‑ коллежский советник Александр Васильевич Плотников.
Старшие учителя: надворный советник Павел Трифонович Матросов, коллежский асессор Петр Карпович Криницын, Илларион Михайлович Слаута, коллежский асессор Македон Иванович Емельянов, Иван Яковлевич Христофоров, Иван Алексеевич Тверитин.
Младшие учителя: Ричард Григорьевич Бострем, Денис Иванович Шелутков, Василий Васильевич Кузьмин, Осин Станиславович Палюлон, Николай Андреевич Ефоремов.
Законоучитель иерей Лев Сидорович Иваницкий.
24 июля 1868 г. Тобольскую мужскую гимназию посетил великий князь Владимир Александрович. Ему представили бывшего директора гимназии П. П. Ершова. Петр Павлович приветствовал гостя стихами
Шесть люстр прошло, когда, во цвете лет,
Исполнен сил и вещего глагола,
Я подносил свой радостный привет
Наследнику великого престола.
И всё что видел я, как будто райский сон,
И всё, чего желал душою восхищенной,
Всё то уже свершил посланник неба, Он
Державный твой Отец, на благо полвселенной!
А Ты, Творец непостижимый!
Молитву теплую внемли:
Да будет Он, Тобою в думы
Твоим подобьем на земле.
И я молюсь: «Да Вышний Царь царей!»
Благословит Тебя от горнаго Сиона!
Да будет страж родной земли своей,
И щит, и меч, и укрепленье трона!
Когда великий князь выходил из гимназии, гимназисты пели гимн на балконе и кричали ему «ура».
С июня 1879 г. по август 1908 г. директором Тобольской мужской гимназии служил Петр Иванович Панов.
29 августа 1880 г. в здании Тобольской мужской гимназии был открыт бюст императора Александра II.
11 июня 1889 г. Тобольская мужская гимназия праздновала столетний юбилей своего существования. В час по полудни в гимназическом зале собрались все учащиеся и преподаватели. Среди гостей присутствовали губернатор Владимир Александрович Тройницкий, попечитель Западно-Сибирского учебного округа Василий Маркович Флоринский, кафедральный протоиерей Матфей Боголепов и выпускники гимназии прошлых лет, проживающие в разных городах Сибири.
Преподаватель Тобольской мужской гимназии Степан Николаевич Замахаев в своей работе «Тобольская губернская гимназия. Историческая записка о состоянии Тобольской гимназии за 100 лет ее существования. 1789−1889» приводит список выпускников этого учебного заведения с 1813 по 1889 годы. Большинство выпускников стали учителями, врачами, юристами, государственными служащими.
Во второй половине XIX в. остро стал вопрос о постройке нового здания гимназии. Дело в том, что старое здание сильно обветшало. С увеличением количества гимназистов выяснилось, что помещения не могут вместить всех воспитанников. Из-за тесноты (иногда в классе сидело по 40 человек) гимназисты часто жаловались на головные боли, головокружение, усталость.
В 1893 г. начались занятия в новом здании гимназии, построенном на этой же улице с 1889 по 1892 годы. В старом здании размещался пансион для иногородних гимназистов. В 1899 г. старую гимназию посетил Д. И. Менделеев.
В советское время в здании старой гимназии располагалась поликлиника, сейчас здание временно занимает Тобольский архив. Существует несколько проектов по его дальнейшему использованию: вернуть в его стены поликлинику, устроить гимназию, либо музей, посвященный П. П. Ершову.