Родился 15 марта 1915 года в деревне Заболотье Варнавинского района Нижегородской области.

В июле 1941 года был призван на защиту Родины от фашизма. Принял присягу 27.07.41 года. Назначен сапёром в 39 Мотор. Прож. Полк специального назначения 2 ОМПРСН.  Затем 15.08.41 года переведён в 303 отдельный батальон сапёром. Сапёры заминировали важные объекты перед наступлением немецко-фашистских захватчиков: мосты, дороги и другие объекты.

С 3 августа 1941 года по 20 июня 1943 год был непосредственным участником Отечественной войны на Западном фронте, защищая Москву, Московскую и Смоленскую области. После освобождения этих мест сапёры разминировали поля, мосты, заводы и дороги. Работа трудная, многих товарищей терял Яков Яковлевич, когда неожиданно наступали на мины и взрывались. Тяжело вспоминать бойцу, хотя ему повезло, и он не был ранен.

5 ноября 1944 года красноармеец Шаров Я.Я. был награждён медалью «За оборону Москвы». 22 февраля 1942г ему было присвоено воинское звание ефрейтор.

Демобилизован был 25 сентября 1945г в рабочий посёлок Красные Баки, где работал плотником до 1975 года. За отличную работу был награжден знаком «Ударник коммунистического труда». С женой Марией Герасимовной вырастили восьмерых детей, за что жена была награждена двумя медалями «Медаль материнства». Умер Яков Яковлевич 29 июня 1976 года.