Проектирование нового истребителя возглавил Т.Кояма. Работы, начатые в начале 1942 г, завершились в марте 1943 г полетом первого опытного самолета (N 8401). Истребитель представлял собой обычный низкоплан под двигатель Накадзима-11 (Ха-45) с четырехлопастным винтом-автоматом "Сумитомо" Ре.32. Цельнометаллическая конструкция имела прочностные характеристики, сравнимые с американскими истребителями. Стабилизатор был установлен перед рулем направления - деталь характерная для самолетов Кояма, начиная с проектов Ки-62 и Ки-63. В конструкции самолета широко использовалась штамповка и прессованные детали. Крупнокалиберные пулеметы устанавливались на фюзеляже перед кабиной, а пушки Хо-5 - в крыле за стойками шасси. Под фюзеляжем была предусмотрена подвеска дополнительного топливного бака.
Вслед за первым опытным самолетом в июне 1943 г на аэродром Одзима был доставлен второй Ки-84 (N 8402). Испытания двух этих машин шли на удивление гладко, без характерных "детских болезней". Вскоре была заказана опытная партия из 83 истребителей, первые из которых вместе с двумя опытными машинами проходили официальные испытания в Тачикаве на авиационном арсенале. Армейские пилоты, уже оценившие важность для истребителя скорости и хорошей живучести, хорошо приняли самолет, даже несмотря на недобор скоростных качеств - максимальная скорость в 624 км/ч была ниже задания, а высота в 5000 м набиралась за 6,25 мин. Тем не менее на пикировании истребитель разгонялся до 800 км/ч. При этом Ки-84 не страдал от повышенного уровня вибрации, столь характерного для японских истребителей. Для сохранения маневренности истребитель получил боевой закрылок. Управляемость самолета была хорошей, а штопорные характеристики - нормальными. В целом Ки-84 превосходил все опытные истребители, готовые на тот момент для серийного производства.
С августа 1943 г по март 1944 г была изготовлена установочная партия из 83 "Хаяте", на которых последовательно вводились изменения, исходя из опыта эксплуатации истребителя. Так, была улучшена технологичность фюзеляжа, была изменена форма и площадь рулей высоты и напраления для улучшения управляемости на взлете. Изменялась форма выхлопных патрубков. На двух машинах зимой 1943-44 гг в Маньчжурии испытывалось частично убираемое лыжное шасси. Некоторые машины получили подкрыльевые держатели для 250-кг бомб.
В октябре 1943 г для испытания истребителя в боевых условиях была сформирована опытная эскадрилья. По результатам этих испытаний истребитель был принят на вооружение японской армейской авиации под обозначением "истребитель армейский тип 4 модель 1а "Хаяте" или Ки-84-Ia.
