А. Я. Ешпай родился на Волге, в семье видного марийского фольклориста и ученого Я. А. Эшпая, много сделавшего для развития марийского профессионального искусства. Путь Эшпая-музыканта начинался в музыкальном училище имени Гнесиных, где он учился по классу фортепиано. Война прервала эти занятия. Восемнадцатилетним юношей Эшпай уходит на фронт. За боевые заслуги он был награжден орденом Красной Звезды и медалями. После войны Эшпай продолжает образование в Московской консерватории сразу на двух факультетах: фортепианном ( у В. В. Софроницкого) и композиторском (у Н. Я. Мясковского, после его смерти — у Е. К. Голубева), аспирантуру заканчивает у А. И. Хачатуряна. Впоследствии специальность пианиста сыграла важную роль в деятельности композитора — свои сочинения для фортепиано (а их немало)