Случай, знаменовавший начало музыкального образования юного Малера, описан в предисловии к письмам, опубликованным женой композитора. Эта история произошла, когда в дом Малеров приехали родители матери Густава, Абрахам и Тереза. Пока дедушка и бабушка общались с дочерью и зятем, ребенок исчез. Начавшийся поиск привел Бернхарда и Марию на чердак, где они увидели картину, потрясшую их: там находилось старое пианино, и Густав, поглощенный этим инструментом, будто новой игрушкой, с азартом нажимал на клавиши. Родители были поражены тем, что от его прикосновений раздавались не треньканья, которые привычно звучат, когда за фортепиано сидит маленький ребенок, а самая настоящая музыка. Густав с легкостью подбирал хорошо известные мелодии, хотя этому его никто не учил. В тот день Бернхард осознал, что его сын не просто увлечен музыкой — это что-то несоразмерно большее. По словам Альмы, Густаву тогда было всего четыре года. Историю эту подтверждает австрийский музыковед Рауль Стефан, добавляя, что юного Малера ничто не могло отвлечь от пианино, даже когда его звали поесть сладости. Однако Стефан считает, что этот случай произошел, когда Густаву было шесть лет. Сам же композитор говорил, что сочинять музыку он научился в возрасте четырех лет, и это случилось прежде, чем он смог что-либо исполнить на инструменте. Сегодня хронологические рамки той истории установить трудно, поэтому безошибочно можно утверждать лишь одно: музыкальный талант Малера проявился очень рано.
Родители Густава, осознавшие его способности, решили развивать талант мальчика и задумались о частном учителе. Первые уроки музыки юный Малер получил у чешских музыкантов, которых знал в основном по отцовской пивной. Разумеется, нельзя утверждать, что Бернхард выбирал преподавателей для своего ребенка именно среди своих клиентов. Просто пивная служила определенной средой для общения мало понимавшего в музыке старшего Малера, а также неким инструментом оплаты преподавательских услуг.
Музыкальные основы Густаву помог постичь капельмейстер йиглавского театра Францишек Викторин. Учителями по фортепиано у будущего композитора стали Якуб Сладкий, а потом Ян Брош, под руководством которого Густав настолько быстро добился успеха, что учитель направил его преподавать музыку к мальчику, который был старше Густава. За свои услуги юный педагог получал пять крейцеров в час. Но это длилось недолго: несчастный ученик не соответствовал высоким требованиям учителя-тирана и после нескольких уроков мальчик слезно отказался продолжать учебу у Густава. Также среди йиглавских учителей маленького Малера фигурируют имена Яна Жижки, ученика Антона Брукнера Вацлава Прессбурга, Францишека Штурма. Однако самую большую роль в музыкальном образовании Густава сыграл выпускник Пражской консерватории, хормейстер церкви Святого Иакова Генрих Фишер. Послушав игру мальчика, Фишер понял, что тот — настоящий вундеркинд. Немного поразмышляв, педагог решил, что Густав может начать работать, и пригласил его на хоровые репетиции в церковь, предложив место органиста. Как раз в это время, в 1868 году, у Бернхарда и Марии родилась Юстина Эрнестина.
