По возвращении в Бенгалию, Рай в 1803 г. поступил на службу в английскую Ост-Индийскую компанию и около 10 лет служил в должности дивана — старшего фискального чиновника, занимавшегося сбором налогов. По долгу службы он был тесно связан с двором Моголов и английской колониальной администрацией. В 1810 г., после смерти сводного брата, Рай получил большое наследство. В 1814 г. он вышел в отставку, а в 1815 г. богатым и независимым человеком поселился в Калькутте — столице Британской Индии. Следующие 15 лет его жизни были наполнены разнообразной литературной деятельностью, принесшей ему широкую известность не только в Индии, но и в Европе. Кроме многочисленных статей на самые разнообразные темы он издал в эти годы несколько глубоких религиозных трактатов, сочинял гимны Брахману, делал переводы с древнего санскрита на современный бенгальский и английский языки, составлял учебники на бенгальском языке по грамматике, геометрии и астрономии.
Наиболее значительным в его наследии считаются религиозные сочинения. Еще в 1803 или 1804 гг. Рай опубликовал трактат на персидском языке под названием «Дар верующим в Единого Бога» — первое систематическое изложение своих религиозных взглядов. В 1816–1819 гг. он выпустил переведенные на бенгальский язык пять важнейших Упанишад. Эта книга развивала идеи «Дара верующим» и, в сущности, являлась не столько переводом, сколько оригинальным богословским произведением.
В предисловии Рай писал, что современная индуистская религия представляет собой извращение подлинного индуизма, истинные принципы которого изложены в Ведах и Упанишадах. Чтобы подтвердить эту далеко не бесспорную мысль, Рай в своих переводах весьма вольно обращался с подлинными текстами Упанишад: смещал акценты, вставлял отдельные предложения, изменяющие первоначальный смысл, и просто пропускал те места, которые противоречили его религиозным идеям. То, что получилось в результате такой обработки, весьма условно можно назвать Упанишадами. Скорее, это изложение вероучения самого Рая. Однако он искренне считал свой текст более соответствующим духу Древнего индуизма. Он писал, что исповедует «первоначальную» религию Вед, очищенную от «позднейших» наслоений, и что он лишь «объясняет» «подлинный дух индуистского священного писания». Такой подход к традиционному вероучению имел много общего с тем, что существовал в Западной Европе в эпоху Реформации. Рай сознавал это и однажды признался шотландскому миссионеру Александру Даффу:
