«Будучи еще молодым человеком, я приобрел некоторые знания английского языка, прочитав о возникновении и успехе христианства в апостольские времена, о его порче в последующие века, а затем о христианской Реформации, которая отбросила эти извращения и восстановила христианство в первоначальной чистоте, я стал думать, что нечто подобное могло бы произойти и в Индии и подобные же результаты могла бы принести реформация народного идолопоклонства».
Интерес Рая к христианскому вероучению не был поверхностным. Чтобы лучше понять его, он изучил греческий и древнееврейский языки, а в 1820 г издал на английском языке Новый Завет в своей редакции.
Здесь он следовал тем же принципам, что и при переводе Упанишад, то есть убрал из текста все то, что противоречило его взглядам. В книгу не вошли такие эпизоды, как искушение Христа дьяволом, вступление в Иерусалим, изгнание менял из храма, Тайная вечеря, предательство Иуды, отречение Петра, распятие и воскресение Христа. Исключены были и все чудеса — изгнание бесов, чудо с хлебом, хождение по воде и почти все исцеления. В том же 1820 г году Рай опубликовал «Обращение к христианской публике», в котором сформулировал свои представления о христианстве. Так же, как в индуизме, он находил здесь много позднейших искажений и наслоений «Очищая» и «исправляя» христианство, он, по существу, отверг все важнейшие догматы этой религии об искуплении Христом грехов человеческих, догмат о Троице, о божественности Христа, о его единосущности с Богом-Отцом, а также будущее воскресение из мертвых и Страшный суд Христос в изложении Рая предстал обычным человеком, ничем ни отличающимся от других пророков древности.
Однако, Рай полностью принимал этическое учение христианства и считал его очень полезным для Индии. Определенное влияние оказал на Рая также ислам, из которого он взял идею последовательного монотеизма.
Уже в своих ранних работах он писал, что все вероучения «верны», поскольку они признают «единое Высшее Существо», и «ложны», поскольку они настаивают на определенном боге или богах, на строгом исполнении установленных обрядов. Свое «религиозное кредо» Рай сформулировал в 1823 г следующим образом:
«В соответствии с заповедями нашей древней религии, которые содержатся в священной Веданте, хотя ими, как правило, пренебрегают наши современники, мы обращаемся к Единому Существу, видя в Нем одушевляющий и регулирующий принцип всего сущего во Вселенной и первоисточник всех индивидуальных душ, которые примерно сходным образом оживляют свои отдельные тела и правят ими. Мы отвергаем идолопоклонство в какой бы форме и под каким бы покровом оно не проявлялось Дань, которую мы приносим Божеству, состоит исключительно в осуществлении дайя, или благорасположения, по отношении ко всем другим, а не в надуманной вере и не в определенных движениях рук, ног, головы, языка или других движениях на кафедре или перед храмом».
