Оставаясь полупрофессионалом, он приобрел известность в студиях звукозаписи Лос-Анджелеса как хороший вокалист и композитор. После того как он стал соавтором «Readin Ridin And Racin» — пользовавшегося успехом опуса — для «The Superstocks» и «Travellin' Man» для The New Christy Minstrels и Слима Уитмена, ему удалось записать несколько песен с The Ronettes и одну с The Modem Folk Quartet. Сотрудничество с продюсером этих артистов Филом Спектором было многообещающим, но три композиции, записанные Гарри с «Svengali Of Sound», пролежали на полке десять лет. Несмотря на то, что знакомство со Спектором открывало перед Гарри все двери, Нилсон, услышав песни Beatles, задумался о том, чтобы вообще уйти из музыкального бизнеса («Как только я услышал, что они делают, то просто отступил»). Женившись и поднявшись по службе до начальника компьютерного отдела, он, казалось, был готов «остепениться».
После того как The Monkeys выбрали его песню «Cuddly Toy» — впоследствии в ней усмотрели пропаганду антифеминизма — для своего альбома 1967 года «Aquarius, Capricorn And Jones Ltd», Нилсону предложила контракт звукозаписывающая фирма RCA. Затем он стал популярным в лондонских артистических кругах, после того как Дерек Тэйлор — в настоящее время журналист, пишущий для The Birds, The Beach Boys и других американских артистов, — прислал Брайану Эпштейну диск «Pandemonium Puppet Show», утверждая, что «он не уступает Beatles». Сами музыканты тоже согласились с этим выводом — возможно, польщенные успехом сорокапятки, содержавшей попурри из 11 песен Леннона и Маккартни под общим названием «You Can't Do That», занявшей первое место в австралийском хит-параде Тор 40.
Джон Леннон называл его «потрясающим Гарри» и признал новую культовую знаменитость «своей любимой американской группой». Затем Джон взял инициативу на себя и позвонил Нилсону в банк («Привет, это Джон Леннон». — «Да, а я Дядя Сэм»). Будучи в Лондоне в 1968 году, Гарри получил приглашение от Леннона — и с этой встречи завязалась дружба, которая продлилась всю жизнь.
Попытки присоединить талантливого Гарри к созвездию артистов NEMS потерпели неудачу, поскольку он решил уволиться с работы в банке и самому попробовать себя в шоу-бизнесе. «Эта работа помогла мне многое понять. Вы получаете опыт в бизнесе, который позволяет понять, почему компании принимают те или иные решения». Кроме того, участие Брайана Эпштейна в делах Beatles — и остальных артистов из Ливерпуля — по мере окончания пятилетних контрактов становилось все меньше. Ослабевали и их личные отношения.
