Добровольцем он ушел в народное ополчение, и был зачислен в 22 стрелковый полк 8-й дивизии Красно-Пресненского района.

Писатель Юрий Либединский был с ним в одной роте и так вспоминал о нём в своих дневниках 1941г:

"Николай Яшин был директором переплетной мастерской Литфонда. Мы состояли в одной парторганизации. Переплётное хозяйство наладил он образцово. Молодой, только что вступивший в партию, он шёл от успеха с успеху.

Он вышел из Москвы рядовым, и на первых переходах было ему трудно, как и любому из нас. Но уже через несколько переходов он подбадривает товарище, помогает тем, кто слабее.

Он ровно приветлив с товарищами, но, когда нужно, может сказать суровое слово, пристыдить малодушного, оборвать шептуна.

На первом же организационном собрании ротной парторганизации (в роте 29 коммунистов) его выбирают парторгом.

Когда сложился наш походный быт, обнаружилось, что наш парторг - это живой сборник походных песен. Он был запевалой ещё в пионерских лагерях. Приятный голос, превосходный слух и особенная русская удаль - таковы достоинства нашего запевалы."

Потом Николай Яшин воевал в 786 стрелковом полку 155 стрелковой дивизии в Тверской области.

3 ноября 1942 года в письме к своему 5-летнему сыну он писал: “Надеюсь, что опять будем вместе, как только разобьём фашистскую гадину. Не скучай, помни своего папу.”