Вторая и третья книги «Комментариев к трудностям во введениях книги Евклида» посвящены теории отношений. Хайям подтверждает правильность знаменитого определения тождества двух отношений в пятой книге «Начал», в которой Евклид сравнивает произвольные равнократные первой и третьей и, соответственно, второй и четвертой величин, образующих пропорцию.
Это определение, однако, с его точки зрения, страдает существенным недостатком, ибо не выявляет «истинный смысл пропорции». Хайям считал, что определение Евклида не конкретизирует измерительных аспектов отношений, которые представляли практический интерес для математики мусульманских стран. Поэтому свою задачу он видел в формулировании такого определения равенства отношений, которое непосредственно отражало бы числовую функцию отношения. Хайям намеревался соединить общую теорию отношений пятой книги, пригодную и для непрерывных соизмеримых величин, и теорию отношений чисел седьмой книги. При этом Хайям пошел по новому и оригинальному пути: он доказывает эквивалентность Евклидовых определений тождества и неравенства отношений с новыми.
В основе исходного определения Хайяма лежит процесс отыскания наибольшей общей меры и соответствующий алгоритм Евклида. Доказывая эквивалентность определений Евклида и собственного, Омар Хайям приходит к выводу о наличии существенного пробела в теории отношений — отсутствие общей теории о существовании четвертой пропорциональной к трем данным величинам, которую Евклид доказал в шестой книге только для частного случая отрезков. С точки зрения Хайяма, существует прямая связь этой теоремы с непрерывностью и доказывает ее на основании еще одного из «принципов, заимствованных у философа»: «величины можно делить до бесконечности, то есть они не состоят из неделимых» (кстати, это положение Аристотеля будет играть важную роль и в его философских трактатах). Для обоснования этой теоремы Хайям доказывает, что величина принимает каждое значение, промежуточное между какими-либо двумя ее значениями. Хотя для этого приведенного принципа недостаточно, здесь важна сама принципиальная идея.
Третья книга «Комментариев» посвящена проблеме составления отношений, недостаточно развитых у Евклида. Это учение представляло для математиков стран ислама особую важность в связи с возможными приложениями к теории музыки и, главное, тригонометрии. Здесь Омар Хайям отходит от концепции о числе Аристотеля. Признавая, что число в собственном смысле — это натуральное число, собрание единиц, он предлагает ввести более широкое абстрактное понятие о числе как о действительном положительном числе. При этом Хайям теоретически обосновывает давнюю практику математиков. Ведь «вычислители и землемеры часто говорят: половина единицы или треть ее или какая-нибудь другая доля ее, в то время как единица неделима… предполагают единицу делимой. Они часто говорят: корень из пяти, корень из десяти и т. д. — их слова, действия и измерения изобилуют этими выражениями».
