В Нишапуре Омар Хайям учился у известного ученого и богослова Насир ад-Дина Шейх Мухаммада Мансура. На занятиях учитель любил повторять слова Пифагора: «Как хорошо, когда благоденствие человека основано на законах разума». Его ученики, чтобы доставить ему удовольствие, добавляли изречение Сократа: «Главнейшее условие истинного знания — точное логическое определение понятий». Во главу угла в обучении он ставил разум и логику. На этом была построена его система обучения.
Примерно за сто лет до рождения Омара группа ученых из Басры (Абу Сулайман Мухаммад ибн Машар аль-Бусти аль-Мукаддаси, Абу-ль-Хасан Али ибн Харун аз-Занджани, Абу Ахмад аль-Михрджани аль-Ауфи и Зайд ибн Руфаа) решила подвести своеобразный итог переводческой деятельности и добытым знаниям, систематизировать обучение. Кружок «Ихваи-ас-сафа» («Братья чистоты») поставил перед собой цель «очистить проникшие в ислам нелепости при помощи философской мысли». На свет появилась своеобразная энциклопедия знаний, которая состояла из пятидесяти одного трактата и распадалась на четыре раздела. На протяжении многих лет она станет одним из главных пособий для студентов мусульманского мира. В соответствии с программой этой энциклопедии скорее всего занимался и Омар.
Долгое время шли споры: в каком возрасте следует приступать к учению. Одни говорили, что с двадцати или даже с тридцати лет. Это были приверженцы старой школы хадисов, еще не утратившей своего значения. Считалось, что именно к этому возрасту человек созревает для восприятия слова божьего. Другие рекомендовали обращаться к учебе уже с пятилетнего возраста. «Братья чистоты», любившие логическую ясность и стройность во всем, не обошли стороной и этот вопрос. Они говорили, что к обучению надо приступать с 10—12-летнего возраста.
— У саранчи пять способностей, но ни одного таланта, — говорил Насир ад-Дин своим питомцам. — Она бежит, но небыстро; летает, но невысоко; ползает, но только по земле; плавает, но недолго; копает, но неглубоко. В каждом из вас тоже заложены способности. Сколько их? Пока я не знаю. И моя задача — хотя бы одну из них довести до совершенства. Подобно слепым щенкам тыкались бы мы во все углы в поисках ответа на вопрос: что собой представляем и на что годны, не будь у нас в руках емкой книги «Братьев чистоты», которые определили пути поиска Аллаха. Так возьмем в руки весла разума и доверимся лодке мудрости.
51 трактат энциклопедии «Братьев чистоты» распадается на четыре раздела: I) пропедевтика и логика (трактаты с 1-го по 13-й), II) естественные науки и учение о человеке (14—30), III) учение о мировой душе (31—40), IV) богословские науки (41—51). По принятой в этой энциклопедии греческой системе учащегося сначала подготавливали к логическому мышлению путем освоения пропедевтических, в данном случае математических, наук и знакомили его сначала с арифметикой (изучались простейшие свойства чисел, натуральных и дробных, и действия над ними), потом переходили к геометрии по Евклиду. Возможно, на этом этапе Омар впервые встретился с пятым постулатом Евклида, который заинтересовал его настолько, что впоследствии ему будет посвящен целый научный трактат Хайяма-математика.
