Здание построено в начале XIX века пермским купцом 1-й гильдии И.Р. Жмаевым, который с 1799 г. являлся бургомистром, с 1802 по 1805 гг. – Пермским городским головой. Первоначально дом был одноэтажным, по Сибирской улице к нему примыкали 15 каменных соляных лавок и амбаров. По Петропавловской улице стоял небольшой флигель. После смерти Жмаева дом перешел по наследству его младшей дочери М.И. Дягилевой, и использовался для проживания семьи.
После смерти жены владельцем дома стал Д.В. Дягилев – прадед С.П. Дягилева. В 1842 г. наследники Дягилева продали дом пермскому купцу 1-й гильдии, почетному гражданину, мануфактур-советнику Д.Е. Смышляеву.
Строения на усадьбе сильно пострадали во время пожара в 1842 г., после чего надстроен второй этаж главного дома, вместо соляных лавок сделана пристройка, далее по Петропавловской построен двухэтажный дом.
С 1856 г. Смышляевы сдавали здание в аренду Пермской палате государственных имуществ и Пермской палате уголовного и гражданского суда. В 1864 г. усадьба передана городскому обществу, в доме размещались городская дума, пермский купеческий клуб (Общественное собрание), городской сиротский суд, и городская управа.
В годы Гражданской войны в здании размещались Губчека, при Колчаке – контрразведка, в подвале – арестантские помещения.
В 1878 г. часть помещений по Сибирской улице предоставлено Пермской публичной библиотеке.
С 1923 г. библиотека становится крупнейшей на Урале.
В 1928 г. в связи с 60-летием А.М. Горького библиотеке присвоено его имя. В 1930-е гг. в этом же здании размещалась татарская библиотека.
В годы Великой Отечественной войны в здании размещались эвакуированные рукописный и уникальный фонды Всесоюзной библиотеки им. В. И. Ленина.
Яркий образец архитектуры казенного учреждения в стиле позднего классицизма XIX в., состоящее из разновременных объемов, объединенных в единый комплекс. Здание связано с развитием местного самоуправления в крае, библиотечного дела, деятельностью Д.Е. Смышляева, Т.С. Росляковой.