Первоначально в составе ИИЭМ было 6 научных отделов и библиотека. Пастеровская станция вошла в него на правах Первого прививочного отделения.
Отдел бактериологии возглавил С. Н. Виноградский, вошедший в мировую историю науки открытием круговорота азота в природе. Отделом физиологической химии (биохимии) руководил ученый с мировым именем М. В. Ненцкий, положивший начало производству вакцин и сывороток. Отделом физиологии руководил И. П. Павлов, первый и до сих пор единственный Нобелевский лауреат в России в области физиологии пищеварения. Отделом сифилидологии руководил Э.-Л. Ф. Шперк, крупнейший специалист в области кожно-венерических болезней.
В отделе эпизоотологии под руководством К. Я. Гельмана и А. А. Владимирова проводились работы по изучению сапа у лошадей, бешенства и туберкулеза животных. Отдел патологической анатомии возглавил «первый русский гематолог» Н. В. Усков.
Особняк О. Михальцевой стал первым зданием будущего Института экспериментальной медицины. В 1889 г. к строительству институтского комплекса был привлечен архитектор Ф. Л. Миллер. Он разобрал ветхие пристройки к зданию и достроил его одновременно с домом директора. При входе установили бронзовый бюст Л. Пастера.
В 1889–1890 гг. с правой стороны особняка О. Михальцевой по проекту инженера Э. Ганнекена возвели каменное здание в едином объеме с водонапорной башней, где установили двигатели и паровые котлы. Пар служил средством дезинфекции помещений, белья. Особые печи были предназначены для быстрого обеззараживания тепловым способом. Машинное здание в 1911 г. надстроил Г. И. Люцедарский.
В 1892 г. Э. А. Ганнекен построил деревянные здания для служащих, бараки для заразных больных людей, а также виварий для животных — обезьянник, собачник и конюшни, лабораторию для изучения сапа, не сохранившиеся до наших дней.
В 1893 г. по проекту Ф. Л. Миллера возведено каменное двухэтажное здание с высоким стеклянным фонарем. Фасады выполнены в кирпиче с оштукатуренными поясами. Вход выделен порталом с двумя колоннами и лучковым фронтоном. Второй этаж с пилястрами и арочным окном завершен треугольным фронтоном. В нем разместился Отдел химии во главе с основоположником современного учения о кровяном пигменте профессором М. В. Ненцким. Здесь работали академики В. С. Гулевич и В. А. Энгельгардт.
В 1894 г. Ф. Л. Миллер возвел двухэтажное здание физиологического Отдела для опытов над животными. Гладкие оштукатуренные стены и прямоугольные окна с профилированными наличниками соответствовали функциональному характеру постройки. На втором этаже размещался террариум с земноводными, растениями. Здесь же были кабинеты ученых (с 1936 г. стал мемориальным кабинет И. П. Павлова). Внутри здания находилась операционная, в которой Павлов и его сотрудники оперировали собак, и специальная клиника для выхаживания оперированных животных.
