Давид прежде всего направил свое оружие против иноплеменников, живших внутри страны. На границе, между коленом Иудиным и Вениаминовым, издавна жило маленькое, но сильное племя иевуситов. Это племя не было покорено евреями при Иошуа, и оно продолжало жить независимо в своем укрепленном городе Иерусалим и окрестностях. Иерусалим находился на горе; в южной части его возвышался холм Цион (Сион), на котором стояла сильная крепость. Давид пошел с дружиной против иевуситов и осадил укрепленный Цион. Иевуситы насмешливо говорили Давиду, что такую сильную крепость сумеют защитить против израильтян даже слепые и хромые. Но дружина Давида смело бросилась вперед и скоро овладела крепостью. Иевуситы были изгнаны из Иерусалима. Давид, выехав из Хеврона, избрал Иерусалим своим постоянным местопребыванием. Он поселился в ционской крепости, названной по его имени "Город Давида" (Ир-Давид), а кругом поселил членов своей дружины. Вскоре пришли из финикийского города Тира плотники и каменщики и построили для Давида царский дворец. Иерусалим стал наполняться жителями и красивыми зданиями, - и с тех пор этот город сделался столицей еврейского государства.
Давид хотел сделать свою столицу и священным городом. Он отправился с толпою народа в селение Кириат-Иеарим и взял оттуда ковчег Иеговы, стоявший там со времени пророка Самуила (48). Ковчег был торжественно, при радостных криках народа, перевезен в "Город Давида" и помещен в особом шатре (скинии), обтянутом драгоценными тканями. При ковчеге был устроен алтарь для жертвоприношения. Священником в новой скинии был назначен Авиатар (сын убитого в Нове Ахимелеха), сопровождавший Давида в его скитаниях и походах.
Весть о том, что Давид укрепился в новой столице, встревожила филистимлян. Они раньше думали, что Давид будет союзником и данником филистимских князей, - а теперь увидели, что он объединяет весь израильский народ для окончательного вытеснения иноземцев из страны Израильской. И вот филистимляне возвратились в область колена Иудина и овладели Бетлехемом, родным городом Давида. Близ этого города выступила против них богатырская Давидова дружина. Израильтяне сражались, как львы, и нанесли неприятелю страшное поражение. О мужестве израильских воинов свидетельствует следующий случай. Во время похода Давиду захотелось пить, а воду можно было достать только из колодца у ворот Бетлехема, где стояла стража филистимлян. Тогда трое богатырей из свиты Давида с опасностью для жизни пробились сквозь филистимский сторожевой отряд, зачерпнули воды и принесли ее Давиду. Но царь сказал: "Сохрани Бог, чтобы я пил эту воду, которую мои люди достали с опасностью для жизни! Ведь это все равно, что пить их кровь!" - После нескольких решительных сражений Давид изгнал филистимлян из своих владений; но он не довольствовался этим. Желая окончательно усмирить давнишних врагов израильского народа, он повел свое войско в филистимскую землю и захватил главный город ее Гат с окрестностями. Эта победа прославила доблесть израильских бойцов. С той поры могущество филистимских царей было навсегда уничтожено. Некоторые филистимские земли были подчинены Давиду, и население их платили ему дань.
