Основной задачей подразделений «Смерш» являлась защита частей Красной Армии и Флота от спецслужб противника.
Помимо этого, «Смерш» решал задачи по созданию условий, исключающих возможность проникновения агентуры и диверсантов противника через линию фронта в тыл советских войск, выявлению и пресечению фактов предательства и дезертирства со стороны советских военнослужащих и гражданских лиц, проверке всех военнослужащих, побывавших в плену (вышедших из окружения), а также осуществлял выполнение специальных заданий Народного комиссара обороны.
Начальник ГУКР «Смерш» В.С. Абакумов подчинялся непосредственно наркому обороны И.В. Сталину. Структура «Смерш» строилась строго вертикально, каждое подразделение подчинялось только своим вышестоящим контрразведывательным органам.
Всего за годы войны военной контрразведкой обезврежено более 30 тысяч шпионов, около 3,5 тысяч диверсантов и свыше 6 тысяч террористов.
По своим масштабам, размаху задействованных оперативных сил и средств оперативно-розыскная и следственная работа, проделанная органами советской военной контрразведки по фильтрации военнопленных вражеских армий в ходе и по окончании Второй мировой войны, не имеет аналогов в истории спецслужб мира.
Отечественный военный флот всегда находился под пристальным вниманием иностранных военных штабов и спецслужб. Что касается немецкой военно-морской разведки, то она руководствовалась основными установками политической и военной стратегии Германии.
В ходе реорганизации военной контрразведки в апреле 1943 г. 6-й отдел бывшего УОО НКВД СССР, оставаясь в системе наркомата, был преобразован в самостоятельный Отдел контрразведки (ОКР) «Смерш» НКВД. Его главной задачей являлась борьба за чистоту рядов органов НКВД, пользовавшихся повышенным вниманием спецслужб противника.