В первом десятилетии XX в. Резерфорд вместе с датским физиком Нильсом Бором сформулировали теорию атомного ядра — теорию, объяснившую непонятное до того времени явление радиоактивности. Ее справедливость вскоре была подтверждена экспериментально. Согласно этой теории атом содержит в себе ядро, состоящее из положительно заряженных частиц — протонов. Ядро окружено на сравнительно больших расстояниях отрицательно заряженными частицами — электронами. Диаметр ядра, представляющего собой сердце - вину атома радия, составлял, по тогдашним оценкам, что-то около миллионной части одной миллионной доли сантиметра Пространство между ядром и окружающими его, как планеты Солнце, электронами также непостижимо мало, но все же по сравнению с размерами ядра оно достаточно велико и превышает диаметр самого ядра почти в десять тысяч раз. Это значит, что атом не является твердым телом, как считали прежде, а состоит главным образом из пустоты.
Картина строения атома, нарисованная Резерфордом в первые годы нашего столетия, впоследствии изменялась и усложнялась с открытием других видов частиц, особенно нейтронов— незаряженных частиц, входящих в состав ядра. Но и известная ныне картина тоже лишь приблизительно верна. Еще более важным было установление Резерфордом других факторов. Во-первых, разница между атомом одного вещества и атомом другого заключается просто в различном количестве частиц, из которых каждый атом построен. Во-вторых, излучение такого вещества, как радий, состоит из естественно выбрасываемых атомных частиц, что приводит к медленному превращению одного вещества в другое. В-третьих, используя заряженные частицы в качестве «снарядов», можно искусственно превращать один элемент в другой.
В 1919 г., работая в Манчестерском университете, незадолго до своего назначения директором Кавендишской лаборатории в Кембридже, Резерфорд осуществил первое такое ядерное превращение, используя частицы, испускаемые радием, для бомбардировки атомов азота. Что-то около одной частицы из каждого миллиона попадало в ядро азота и превращало его в ядро атома кислорода. Энергия, выделявшаяся при таком превращении, была значительной, но все же большинство «снарядов» пролетало мимо целей, проходя относительно громадное пространство между целями и окружающими их электронами. Это было, как говорил Эйнштейн об аналогичном процессе, подобно «попытке стрелять птиц в темноте, к тому же если их вообще немного». В 1932 г. Кокрофту и Уолтону удалось осуществить превращение лития путем бомбардировки его протонами, искусственно ускоренными с помощью высокого напряжения. При этом попадания «снарядов» были во много раз более многочисленными, чем в эксперименте Резерфорда.
