На начальном этапе Великой Отечественной войны все виды войск НКВД вместе с Красной Армией в той или иной степени непосредственно участвовали в боевых действиях против немецких войск. Они воздвигали оборонительные сооружения, защищали подступы к ним, вели борьбу с бандитами, шпионами, дезертирами. Они также поддерживали порядок в городах, охраняли важные объекты, помогали их эвакуации, а в случае необходимости и уничтожению. В критические моменты части и соединения наркомата внутренних дел совместно с частями Красной Армии участвовали в обороне Москвы, Ленинграда, Киева, Могилева, Тулы, Сталинграда и других городов, прикрывали вынужденные отходы армейских частей, задерживали дальнейшее продвижение противника.
Например, в октябре — декабре 1941 г. подразделения 43-й конвойной бригады принимали непосредственное участие в боевых действиях против гитлеровских войск на Ростовском участке Южного фронта. В ходе обороны Тулы 156-й полк 2-й бригады войск НКВД по охране особо важных предприятий промышленности с честью выполнил боевую задачу на одном из пяти оборонительных участков города. В дальнейшем, в период контрнаступления советских войск под Москвой, подразделения этого полка освободили 25 населенных пунктов. После разгрома немцев под Тулой личный состав 156-го полка охранял вверенные ему важные объекты. В апреле 1943 г. Указом Президиума Верховного Совета СССР за отличие в обороне Тулы полк был награжден орденом Красного Знамени. В Волгограде стоит памятник бойцам внутренних войск НКВД, внесшим немалый вклад в оборону города. Только в 1944 г. воинами внутренних войск в боевых действиях с противником было убито 3 тыс. 865 немецких солдат и офицеров и 19 тыс. 915 — захвачено в плен. В ходе боев войска НКВД несли потери убитыми, ранеными и без вести пропавшими. Наравне с бойцами и командирами Действующей армии командный и оперативный состав отделов контрразведки «Смерш» НКВД СССР принимал активное участие в сражениях с противником, а в трудную минуту брал на себя руководство боем. Но и в этой обстанов е их прямой обязанностью было выявление и пресечение фактов дезертирства, трусости, паникерства, а также халатности и некомпетентности части командного состава. Органы контрразведки отмечали случаи, когда некоторые командиры подразделений войск НКВД, находясь в нетрезвом состоянии, не могли правильно организовать оборону или наступление, что приводило к необоснованным потерям личного состава. Эти факты, а также случаи отсутствия командиров на передовой, дезертирства, незаслуженного представления отдельных командиров к высоким государственным наградам вызывали справедливое возмущение военнослужащих. Работа органов контрразведки «Смерш» НКВД в прифронтовой полосе требовала принятия мер по обеспечению собственной безопасности оперативных работников. С этой целью в августе 1943 г. были созданы отдельные взводы автоматчиков по охране отделов контрразведки «Смерш» НКВД. На них возлагались не только обязанности по охране зданий и помещений отделов контрразведки, но и обеспечение личной безопасности оперативных сотрудников во время их передвижения в районах боевых действий.
С конца 1944 г. оперативная обстановка, в которой действовали войска НКВД, изменилась коренным образом. Красная Армия и части войск НКВД СССР перешли государственную границу СССР. Отсутствие обустроенной государственной границы, наличие лишь демаркационной линии приводило к неконтролируемым контактам с английскими и американскими военнослужащими и местным населением, создавало предпосылки для дезертирства или бегства за границу. Кроме того, начавшееся после завершения боевых действий некоторое охлаждение в отношениях между государствами-участниками антигитлеровской коалиции потребовало от органов контрразведки проведения мер по поддержанию постоянной боевой готовности войск НКВД за границей.
Органами контрразведки «Смерш» НКВД выявлялись и пресекались факты служебных преступлений и незаконных действий военнослужащих органов внутренних дел по отношению к населению иностранных государств (хищения, грабежи, насилия, убийства и т.п.). Подобная информация передавалась руководству войск НКВД, командованию соединений и частей для принятия мер, а военным прокурорам — для привлечения виновных к уголовной ответственности. Контрразведка НКВД решительно пресекала противоправную деятельность отдельных воинов-пограничников, которые были уличены в расстрелах пленных, расправах и грабежах местных жителей, в пьянстве и моральном разложении. Одновременно с этим руководство пограничных войск информировалось о недостатках в подготовке и проведении боевых операций по борьбе с бандитизмом.
В 1945 г. во внутренних войсках было зафиксировано 457 преступлений, в которых участвовало 950 военнослужащих, 62 из них были арестованы за контрреволюционную деятельность, а в числе дезертиров оказался 131 человек.
В войсках НКВД, находившихся за границей, контрразведкой изучались связи военнослужащих с иностранцами, местным населением, выявлялись попытки вербовочного изучения представителей органов внутренних дел сотрудниками разведывательных органов США, других иностранных государств. Так, в июне 1945 г. контрразведка разоблачила военнослужащего 105-го полка внутренних войск НКВД, который, будучи завербованным американской разведкой, получил задание по сбору сведений о советских войсках в Берлине.
В частях правительственной связи, дислоцированных на территории иностранных государств, актуальными были задачи противодействия разведывательной деятельности бывших союзников — американцев и англичан. В частности, органами контрразведки вскрывались факты, когда линии связи союзных войск прокладывались рядом с советской линией правительственной ВЧ-связи, как это было, например, на участке Вена — Баден. О строительстве англичанами этой линии связи в Москве стало известно только в начале января 1946 г. Для организации противодействия английской разведке в Австрию и Венгрию командировали начальника 2-го отделения ОКР «Смерш» НКВД. По результатам выезда была подготовлена записка руководству НКВД и войск правительственной связи. В ней, в частности, отмечалось, что в непосредственной близости с линией ВЧ-связи проходили не только английские, но и американские линии связи. Антенны английских связистов были расположены всего в 15-20 метрах от советских линий. Кроме того, охрана линий ВЧ-связи войсками НКВД осуществлялась только с 8 до 24 часов. На основании заключения специалистов был сделан вывод о возможности съема информации, циркулирующей по каналам правительственной ВЧ-связи, представителями английской и американской разведок.
Только после вмешательства органов контрразведки «Смерш» НКВД были приняты меры по предотвращению возможной утечки информации по каналам связи.
После окончания Великой Отечественной войны органы контрразведки «Смерш» НКВД продолжали заниматься выявлением и учетом предателей, пособников оккупантов, лиц, ранее проживавших на оккупированных территориях, находившихся в плену у противника, вышедших из окружения, а также тех граждан, которые состояли на службе в немецкой армии и полиции, добровольно сотрудничали с немецкой администрацией, дезертиров и лиц, допускавших антисоветские высказывания. Но эти направления деятельности в большей степени стали переходить к территориальным органам НКГБ, а несколько позднее и к другим подразделениям, обеспечивавшим оперативный розыск пособников и предателей.
С окончанием войны изменилось отношение к сохранности оружия и боеприпасов в войсках. Не секрет, что за период ведения боевых действий в подразделениях и частях войск НКВД накопилось большое количество неучтенного трофейного оружия иностранного производства. Представителями органов контрразведки «Смерш» НКВД принимались активные меры по оказанию помощи командованию частей и соединений по его изъятию — ведь после демобилизации военнослужащих это оружие могло оказаться в руках у населения и уголовного элемента. В числе первоочередных задач, которые решала контрразведка НКВД в послевоенный период, была также деятельность по изъятию оружия у населения и борьба с бандитизмом и националистическим подпольем на Украине и в Прибалтике.
В апреле 1946 г. в связи с реорганизацией Наркомата внутренних дел СССР подразделения контрразведки «Смерш» были преобразованы в органы контрразведки МВД СССР, которые осуществляли контрразведывательное обеспечение войск МВД СССР в течение семи лет. После объединения в марте 1953 г. МВД и МГБ в единое Министерство внутренних дел, ОКР МВД вошел в состав 3-го Управления МВД СССР, проводившего контрразведывательную работу в Советской Армии, Военно-Морском Флоте и в войсках МВД в качестве 5-го отдела (контрразведывательная работа в пограничных, внутренних и конвойных войсках МВД). С марта 1953 г. и до настоящего времени контрразведывательное обеспечение пограничных, внутренних и конвойных войск осуществляется подразделениями Управления военной контрразведки (3-е Управление), неизменно находящегося в структуре органов безопасности (независимо от того как они именовались — МВД СССР, МГБ СССР, КГБ СССР, МБ РФ, ФСК России, ФСБ России).