переведен в 52-й кавалерийский полк красных коммунаров 20-й кавалерийской дивизии и участвовал в боях в районе Гуляй-Поле. После разгрома дивизии под Чернигов-кой (в Северной Таврии) остатки полка влились в 123-й кавалерийский полк 21-й кавалерийской дивизии 2-й Конной армии. В его составе участвовал в рейде по тылам белых. После выхода 52-й кавалерийский полк переведен в 9-ю Крымскую кавалерийскую дивизию и участвовал в боях против генерала П. Н. Врангеля и банд (отрядов) Н. И. Махно. После войны продолжал служить в 52-м кавалерийском полку 9-й Крымской кавалеристской дивизии им. СНК УССР красноармейцем, затем старшиной, командиром взвода и пом. ко мандира эскадрона. В мае – августе 1923 г. участвовал с ним в борьбе с бандами Левченко. После разгрома отрядов Н. И. Махно 52-й кавалерийский полк вместе с дивизией вошел в отряд Г. И. Котовского и боролся с бандами Ю. Тютюнника. В августе 1925 г. направлен на учебу в Крымскую кавалерийскую школу (с 1927 г. – Борисоглебская, затем Борисоглебско-Ленинградская), после ее окончания с сентября 1928 г. командовал взводом в 32-м Белоглинском кавалерийском полку 6-й Чонгарской кавалерийской дивизии БВО. В декабре 1929 г. вернулся в 52-й кавалерийский полк 9-й Крымской кавалерийской дивизии УВО, где исполнял должность командира взвода и эскадрона. С мая 1935 г. зачислен слушателем в Военную академию РККА им. М. В. Фрунзе, после ее окончания в августе 1938 г. назначен начальником 1-й части штаба 31-й кавалерийской дивизии 1-й Отдельной Краснознаменной армии. С августа 1939 г. командовал 151-м кавалерийским полком. С марта 1941 г. и. д. для особых поручений при командующем войсками Дальневосточного фронта. С началом Великой Отечественной войны в августе 1941 г. полковник А. Я. Хвостов назначен командиром 8-го стрелкового полка по охране штаба Дальневосточного фронта. В октябре того же года вступил в командование 205-й стрелковой дивизией, находившейся в резерве фронта. С апреля 1942 г. в составе 1-й Краснознаменной армии Дальневосточного фронта временно командовал сначала 18-м кавалерийским, а с июня – 5-м стрелковым корпусами. В июне 1943 г. направлен в распоряжение ГУК НКО, затем назначен командиром сформированной в МВО 51-й стрелковой дивизии (вступил в командование с 24 июля). После сформирования с 13 августа она в составе 61-го стрелкового корпуса 21-й армии участвовала в Смоленской наступательной операции, затем с 3 сентября была выведена во второй эшелон. С 26 сентября дивизия вновь находилась в резерве Ставки ВГК, затем с конца октября находилась в обороне в районе г. Невель. С 12 ноября 1943 г. дивизия была передана 4-й ударной армии 1-го Прибалтийского фронта. Во второй половине июня – июле 1944 г. дивизия успешно действовала в ходе Витебско-Оршанской и Полоцкой наступательных операций. Находясь во фронтовом подчинении, она прорвала оборону противника северо-западнее Витебска на участке Савченко – Мазуры, а затем в районе узла четырех шоссейных дорог, имеющих важное значение в условиях лесисто-болотистой местности. За эти бои 10 июля ей было присвоено почетное наименование «Витебская», а Указом Президиума Верховного Совета СССР от 28.7.1944 за овладение г. Полоцк она награждена орденом