Через три дня после приезда в Иерусалим новый губернатор в сопровождении нескольких доверенных слуг объехал при лунном свете вокруг города. Известия, которые он получил еще в Вавилоне, оказались верны во всех деталях. В результате скорее недавних волнений, чем осады полтора века тому назад, укрепления и стены были разрушены, ворота сожжены. Иерусалим был фактически открытым городом, ничем не защищенным от нападений. На следующий день Нехемья собрал виднейших горожан и сообщил им о власти, которой он облечен, а также о мерах, которые он собирался предпринять. Новость была встречена с энтузиазмом; под руководством представителей жреческого сословия и цеховых мастеров народ энергично принялся восстанавливать городские укрепления. На помощь пришли жители близлежащих деревень и находившихся в подчинении городков.
Правитель Самарии Санбаллат ревниво следил за происходящим. Не в силах запретить работы, он всячески мешал им, пользуясь любыми способами - от обвинения Нехемьи в предательстве до попытки убить его. Одно время люди, восстанавливавшие Иерусалим, вынуждены были ходить на работу вооруженными, готовыми отразить неожиданное нападение. Все же, несмотря на помехи, менее чем за два месяца работа была закончена, и с большой торжественностью стены Иерусалима были освящены.
Заключенная в стенах территория была малозаселенной, населения не хватило бы для защиты города в случае опасности. Поэтому было решено, что каждая десятая семья из близлежащих деревень должна перебраться в столицу, хотя большинство из них, наверно, продолжали обрабатывать свои наделы вне городских стен. Горожане поочередно несли стражу, на ночь ворота плотно запирались. Вместо того, чтобы стать скоплением мелких сельскохозяйственных поселений, еврейское население в Палестине превратилось в ядро государства с по крайней мере одной крепостью, способной устоять перед врагом.
Обеспечив безопасность столицы, Нехемья с тем же пылом и организаторским умением занялся делом морального возрождения народа. За долгий период Вавилонского пленения идеи Моисеева Закона глубже проникли в сознание еврейского народа, однако массы еще не соблюдали его во всех деталях. Эзра, царский писец из жреческой семьи, приведший из Месопотамии большую группу евреев за 19 лет до Нехемьи, получил тогда от него задание изучить общее положение в стране и провести те реформы, которые он считал необходимыми. Однако Эзра не сделал почти ничего. Он лишь создал комиссию для расследования смешанных браков. Он был полон энтузиазма, хотя и не умел осуществить свои планы. Теперь его пыл был подкреплен организаторским талантом Нехемьи.
