Основной задачей подразделений «Смерш» являлась защита частей Красной Армии и Флота от спецслужб противника.
Помимо этого, «Смерш» решал задачи по созданию условий, исключающих возможность проникновения агентуры и диверсантов противника через линию фронта в тыл советских войск, выявлению и пресечению фактов предательства и дезертирства со стороны советских военнослужащих и гражданских лиц, проверке всех военнослужащих, побывавших в плену (вышедших из окружения), а также осуществлял выполнение специальных заданий Народного комиссара обороны.
Начальник ГУКР «Смерш» В.С. Абакумов подчинялся непосредственно наркому обороны И.В. Сталину. Структура «Смерш» строилась строго вертикально, каждое подразделение подчинялось только своим вышестоящим контрразведывательным органам.
Всего за годы войны военной контрразведкой обезврежено более 30 тысяч шпионов, около 3,5 тысяч диверсантов и свыше 6 тысяч террористов.
Все более актуальной становилась задача документирования преступной деятельности гитлеровского оккупационного режима. Естественно, что такого рода документы, в первую очередь, попадали к партизанам, зафронтовым разведчикам и военным контрразведчикам на фронте.
Среди арестованных в 1945-1946 гг. органами «Смерш» на территории Германии и Австрии преступников особо выделялись лица, совершившие злодеяния в отношении военнопленных, угнанных на работу советских граждан, а также противников фашистского режима и евреев.