Служил в Киевском военном округе в должности командира танкового взвода (1967–1968), в Группе Советских войск в Германии в должности командира взвода и командира танковой роты (1968–1973). Был направлен в Киевский военный округ на должность начальника штаба – заместителя командира танкового полка. С сентября 1979 г. командовал танковым полком, с августа 1984 г. – танковой дивизией. В 1985 г. полковник Ю. Н. Якубов был переведён в Группу Советских войск в Германии командиром танковой дивизии. Через два года назначен первым заместителем командующего армии. Ему присвоено звание генерал-майора. После учёбы в Военной академии Генерального штаба Вооруженных сил СССР (1987–1990) Ю. Н. Якубов был назначен на должность начальника штаба – первого заместителя командующего армией в войска Дальневосточного военного округа. В октябре 1991 г. его служба на Дальнем Востоке была прервана новым назначением – командующего армией в войска Ленинградского военного округа. В июне 1994 г. генерал-лейтенант Ю. Н. Якубов вновь вернулся на Дальний Восток, где прослужил 12 лет, вначале первым заместителем командующего войсками Дальневосточного военного округа, со 2 августа 1999 г. – командующим войсками Дальневосточного военного округа с присвоением ему звания генерал-полковника. 22 февраля 2003 г. ему присвоено воинское звание генерала армии. С 10 сентября 2006 года — в отставке по достижении предельного возраста нахождения на военной службе. В августе 2006 г. Ю. Н. Якубов покинул Дальний Восток, получив новое назначение. После создания в 2008 году Службы генеральных инспекторов Министерства обороны Российской Федерации является ведущим аналитиком Управления генеральных инспекторов Министерства обороны Российской Федерации. С 2010 года является помощником Министра Обороны РФ.