Актерские пробы к фильму начались в апреле 1965 года. На роль Подберезовикова пробовались несколько актеров, в том числе и те, кто уже до этого снимался у Рязанова. Так, из актеров его предыдущего фильма — «Дайте жалобную книгу» — это были Олег Борисов и Анатолий Кузнецов. Лучше всего, по мнению режиссера, в этой роли смотрелся последний, которому она и была предложена. Но Кузнецов… отказался. И мотивировал это тем, что ему надоело играть положительных героев. Вот если бы ему отдали роль «Робин Гуда по-советски» — Юрия Деточкина, угоняющего у нуворишей их «Волги», купленные на неправедные деньги, — тогда другое дело. Но в роли Деточкина режиссер видел другого актера — Иннокентия Смоктуновского. Правда, были большие сомнения в том, что тот согласится сниматься. Поэтому Рязанов долгое время держал в уме две кандидатуры на эту роль — Смоктуновского и Ефремова. И это при том, что проба последнего в роли Деточкина многих не устроила. Так, увидев его на экране, художник фильма Борис Немечек сказал: «Это же волк в овечьей шкуре!» Большинство с ним согласились: сквозь мягкость, добросердечие и наивность в Ефремове проглядывал волевой и железный человек. Что очень странно, поскольку через год Ефремов сыграет роль доброго доктора Айболита, о чем речь у нас еще пойдет впереди.
В итоге, когда 1 июля 1965 года съемки фильма начались (в тот день на Зацепском рынке (Центральном) прошла экспериментальная съемка кадров (они в картину так и не войдут) с участием Анатолия Папанова (Сокол-Кружкин) и Андрея Миронова (Дима Семицветов) — Сокол-Кружкин продавал клубнику, выращенную на своем садовом участке, — согласие Смоктуновского еще не было получено. Поэтому 5 июля состоялась проба Ефремова на роль Деточкина, а в роли Подберезовикова фигурировал его коллега по театру «Современник» Петр Щербаков.
А первые настоящие съемки в этом фильме с участием Ефремова состоялись 19–20 июля. В тот день в Трубниковском переулке (возле Арбата) прошли натурные кинопробы, где Ефремов пробовался на роль Подберезовикова, а на маму Деточкина — мхатовка Ангелина Степанова. В итоге последняя роль достанется Любови Добржанской из Театра Советской армии.
В следующий раз Ефремов появился на съемочной площадке через неделю — 27 июля. Во дворе дома на Смоленской набережной запечатлели сцену, где Подберезовиков разговаривает с Димой Семицветовым и его женой Инной (Татьяна Гаврилова). После чего герой нашего рассказа не участвовал в съемках целый месяц.
