Уже в ходе строительства выявлена масса недостатков подводных лодок этого проекта, которые исключали их боевое использование, поэтому субмарина служила в качестве учебной, готовя кадры для подводного флота.
Весной 1937 года «П-2» под командованием капитана 2-го ранга Шишкина Александра Георгиевича (первый командир субмарины) до южной Балтики сопровождала линкор «Марат» в ходе его официального визита в Англию на торжества по случаю коронации-короля Георга VI, а в ноябре 1940 года вместе со своими систершипами «П-1» и «П-3» совершила групповое плавание по Балтийскому морю с заходом в Таллин, Ригу, Либаву.
22 июня 1941 года подводная лодка встретила под командованием капитан-лейтенанта Попова Ивана Петровича в составе Отдельного учебного дивизиона ПЛ в Ораниенбауме. В сентябре 1941 года ее решили привлечь в качестве транспортной для снабжения гарнизона Ханко, но после гибели «П-1» решение отменили.
25 ноября 1941 года «П-2» вышла в Нарвский залив для артобстрела береговых объектов, но в районе острова Большой Тютерс из-за дополнительного груза снарядов и неправильных действий командира подводной лодки и командира БЧ-5 не смогла удифферентоваться и погрузилась с дифферентом 25–28 градусов на нос. В результате пролива электролита началось выделение хлора и вышла из строя часть механизмов. При всплытии «П-2» подверглась атаке самолета противника. Сброшенные им две бомбы взорвались в 5 метрах от левого борта субмарины, ранив одного человека. Подводная лодка получила 4 осколочные пробоины в легком корпусе у рубки. «П-2» легла на обратный курс. При возвращении корабль подвергся безрезультатному обстрелу береговой артиллерии противника.
В конце декабря 1941 года подводная лодка доставила из Кронштадта в блокадный Ленинград 700 тонн соляра, Несмотря на камуфляжную окраску и движение в позиционном положении, «П-2» была обстреляна береговой артиллерией противника из района Петергоф — Стрельна, в результате чего получила 14 пробоин в легком корпусе.
4 апреля 1942 года на стоянке у моста лейтенанта Шмидта в Ленинграде субмарина получила легкие осколочные повреждения от близких разрывов авиабомб.
1 мая 1942 года «П-2» была поставлена на консервацию. 28 июля 1942 года командиром корабля назначен капитан-лейтенант Лошкарев Лев Александрович, а 9 апреля 1943 года — капитан 3-го ранга Морозов Павел Александрович. 28 июля 1942 года лодка выведена из кампании, штат закрыт.
10 августа 1944 года «П-2» выведена из боевого состава флота, переквалифицирована в опытовую и передана НИИ связи и телемеханики ВМФ. 9 июня 1949 года подводная лодка получила обозначение «Б-31». 11 сентября 1951 года корабль передан дивизиону судов ВВМИУ им. Дзержинского для использования в учебных целях. 9 августа 1955 года субмарина разоружена и переформирована в блокшив, а 20 июня 1956 года окончательно исключена из списков и разобрана на металл в Ленинграде.
