В Красной Армии с 1928 г. В 1930 г. окончил Военно-техническую школу ВВС РККА Ленинградского военного округа. С 1930 г. служил в авиаремонтных военных частях (в/ч) Ленинградского военного округа (младший авиатехник, старший авиатехник, начальник моторного цеха, начальник самолётного цеха, инженер по производству 139 стационарных авиамастерских /САМ/). С 30.11.1939 г. по 12.03.1940 г. участвовал в Финской войне в качестве инженера по производству 139 САМ 15 авиабригады в составе 7 и 13 Армии Северо-Западного фронта в звании военный инженер 3-го рана. С февраля1941 г. начальник 139 САМ. В Великой Отечественной Войне участвовал с 22 июня 1941 г. по 9 мая 1945 г. Сначала в качестве начальника 139 САМ Волховского фронта. Затем 3-го Прибалтийского фронта (с мая 1942 г. в звании инженер-майор). В 1944 г. 139 стационарные авиамастерские базировались в п. Кречевицы Ленинградской области. Козлов Алексей Яковлевич награждён: - 3-мя орденами «Красной Звезды» в 1940 г., в 1942 г., и в 1944 г., - орденом «Отечественной Войны I степени» в 1943 г. и - медалью «За Оборону Ленинграда» в 1943 г. После войны продолжал службу в авиаремонтных частях Советской Армии. В 1965 г. уволен из вооружённых Сил СССР в запас в звании полковника.