Итак, первого апреля 1980 года выходит первый альбом "Black Sabbath" без Осборна - "Heaven and Hell" ("Рай и ад"). Вокальная партия (как и тексты песен) принадлежат уже известному к тому времени певцу Рони Джеймсу Дио (Ronnie James Dio), который заявил о себе в группе Ричарда Блэкмора "Rainbow". На клавишных играет Джефф Николс (Geoff Nicholls).
Первая же забойная композиция "Neon Knights" с напористой ритм секцией, виртуозной гитарой и легко узнаваемым голосом Дио вызывает недоумение - не перепутал ли кто-то обложку и не слушаю ли я новую работу Ричи Блэкмора? Вторая композиция - великолепная баллада "Children of the Sea" с явно слышными "деп-перпловскими" мотивами, лишь усиливает это мнение. Слушая третью песню "Lady Evil", думаешь: ну и бог с ним, не может же Дио петь под Осборна, мы видим новую группу со старым названием, но музыка-то все равно хороша! Хотя потерю несколько тягучего, пробивающего до мозга костей, ритма прежних "Саббатов" жалко. Но понимаешь, что в одну реку дважды не войдешь. Тем более, что в вышедшем почти одновременно диске Оззи вовсю эксплуатируется именно старый саунд группы.
Однако, вернемся к "Heaven and Hell". Он был вполне современен по тем меркам (учитывая нашествие безпроблемного диско и остросоциального, отрицающего все и вся панк-рока), прекрасно слушается и сейчас. Альбом был очень неплохо воспринят поклонниками и (как ни странно) критикой. Стоит отметить возвращение группы к старой тематике о мистическом и оккультном. Кроме вышеназванных прекрасных песен необходимо упомянуть несомненные хиты - песню, давшую название пластинке, и завершающий трек, мелодичную "Lonely is the Word" со сложнейшей вокальной партией Дио и запоминающимся соло на гитаре Тони Йомми.
Следующий альбом, увидевший свет первого октября 1981 года, "Mob Rules" ("Законы толпы") записан практически в том же составе. Лишь заболевшего Уорда сменил ударник Винни Эппис (Vinnie Appice). Уже зная, что ожидать от "Black Sabbath", поклонники не ошиблись в своих предположениях и ничуть не разочаровались (хотя, занозой где-то в глубине сидит горечь от утери неповторимого стиля). Альбом очень энергичный, предприняты попытки возвратиться к усложненной музыкальной форме времен "Sabotage". Начинается альбом с построенной на бешеном ритме хита "Turn Up the Night", затем следует жесткая ритмичная "Voodoo", заставляющая понять, что группа отнюдь не собирается сдавать своих ведущих позиций в хард-роке, третья же тема, красивая и сложная по построению "The Sign of the Southern Cross" напоминает, что и лирики группа никогда не чуралась. Вторая сторона альбома это возвращение на новом уровне к старому вязкому стилю, который некогда принес группе всемирную славу. Диск был очень хорошо воспринят как слушателями , так и критиками и (несмотря на трудное для хард-рока время) добрался до двадцать девятого места в хит-параде Британии.
