Впервые курганчиковая мышь как вид была описана Нордманом в 1840 г. по экземплярам из окрестностей Одессы. Позже, в 1899 г., известный зоолог А. А. Браунер, исследовавший фауну Украины, обнаружил в Херсонской области похожих мышей, описал их внешний вид, окраску и некоторые морфологические признаки, а также обратил внимание на способность этих зверьков сооружать из земли специальные зимние убежища — курганчики с запасами корма. В 1927 г. Б. С. Вальх вторично описал курганчиковых мышей как самостоятельный вид и дал им латинское название «Mus sergii» в честь своего сына Сергея, который поймал живого зверька для отца. Некоторые зоологи, например С. И. Огнев, причисляли к этому, как они считали, подвиду природные популяции мышей Северного Кавказа, Приазовья и Крыма. Для уточнения их систематического положения использовались в основном морфологические признаки, а на особенности экологии и поведения эти исследователи внимания не обращали. Вот почему в один подвид оказались объединенными зверьки, строившие курганчики, и те, которые не умели этого делать, что внесло дальнейшую путаницу в систематику домовых мышей.
Не лучше обстояло дело и с определением таксономического статуса других форм. Разобраться в их систематике было еще труднее, так как они не обладают столь резкими экологическими отличиями, как курганчиковые мыши. А разницу в окраске найти было нетрудно. Когда этот признак попытались использовать как таксономический, результат оказался плачевным: разные авторы дали описание 50 форм домовых мышей, которым присваивали подвидовой, а иногда и видовой статус. Вызывает удивление и досаду неоправданное стремление ученых по маленьким выборкам, без учета возрастной, географической и других форм изменчивости дать описание еще одного вида или подвида. Поэтому вполне естественными были последующий отход от принципа дробления на такое великое множество форм и подвидов и пересмотр взглядов на внутривидовую систему домовых мышей.
В 1940 г. А. И. Аргиропуло произвел ревизию этого вида и из шестнадцати подвидов, выделенных разными авторами на территории СССР, оставил только пять. Этот автор был сторонником политипической концепции вида и рассматривал домовых мышей как единый вид. За основу внутривидовой систематики была взята географическая изменчивость таких морфологических признаков, как окраска волосяного покрова зверьков, пропорции тела. Согласно этой концепции, курганчиковая мышь была охарактеризована как подвид с более светлой окраской шерсти и небольшими размерами тела. Основываясь на морфологических признаках, автор включил сюда не только «настоящих» курганчиковых мышей, но и зверьков Северного Кавказа, Дагестана, северо-западного Закавказья, Северного Казахстана, Алтая и Семиречья, большинство из которых курганчиков не строят.
