Уже летом 1945 г. СССР, верный союзническим обязательствам, приступил к практическим действиям по вступлению в войну против милитаристской Японии. После того как японское правительство отвергло предложение о капитуляции, содержавшееся в Потсдамской декларации союзных держав, 9 августа СССР объявил войну Японии. Вместе с армией к действиям на советско-японском фронте готовилась и военная контрразведка. 30 июня 1945 г. В.С. Абакумов проинформировал ГКО о командировании на Дальний Восток руководителей органов «Смерш». В штаб главнокомандующего советскими войсками на Дальнем Востоке маршала А.М. Василевского в качестве главного оперативного начальника армейских чекистов был направлен заместитель начальника ГУКР «Смерш» НКО СССР генерал-лейтенант И.Я. Бабич с группой из 30 контрразведчиков, имевших опыт работы на фронтах Великой Отечественной войны. Главная задача И.Я. Бабича заключалась в координации деятельности всех органов «Смерш». В Приморскую группу войск начальником УКР «Смерш» назначили откомандированного с Карельского фронта Д.И. Мельникова, на Забайкальский фронт — П.В. Зеленина с 3-го Белорусского фронта, на Дальневосточный фронт — И.Т. Салоимского с Забайкальского фронта. С начальниками УКР фронтов выехали 45 руководящих работников военной контрразведки, а позже еще 100 фронтовых контрразведчиков.
С 9 августа по 2 сентября 1945 г. силами Дальневосточного фронта, Тихоокеанского флота и Амурской военной флотилии, при участии армии МНР была проведена Маньчжурская стратегическая наступательная операция по разгрому японской Квантунской армии. Во время ее осуществления органы «Смерш» использовали оперативные возможности разведки и контрразведки Дальнего Востока и боевой опыт, накопленный армейскими чекистами в борьбе с немецкой разведкой. Советские органы безопасности располагали обширными данными о структуре, дислокации и методах подрывной деятельности японской разведки.
Основные усилия контрразведчиков были направлены на разгром японских спецслужб, дислоцировавшихся в непосредственной близости от границы СССР, а также белоэмигрантских антисоветских организаций на территории Маньчжурии, тесно сотрудничавших с разведкой противника.
В ходе военных действий и наступления войск Красной Армии проводились оперативно-розыскные мероприятия на освобожденной территории. Оперативные группы «Смерш», располагавшие списками лиц, подлежащих розыску и аресту, продвигаясь вместе с десантными войсками и наступающими частями, захватывали помещения бывших японских разведывательных и полицейских органов, белоэмигрантских организаций и отдельных лиц, выявленных по полученным адресам или при фильтрации военнопленных. Было захвачено большое количество трофейных документов, что позволило более эффективно проводить оперативно-розыскные мероприятия на освобожденных от японских захватчиков территориях, а также на советском Дальнем Востоке.
С самого начала боевых действий и после капитуляции в плен попало значительное число японских солдат и офицеров, сотрудников спецслужб, выявленных в лагерях и на пунктах сбора военнопленных Квантунской и Маньчжурской армий. Всего в плен было взято 148 японских генералов и около 600 тыс. офицеров и солдат. В их числе командующий генерал Ямада, начальник штаба генерал Хата, начальник разведотдела штаба полковник Асада, начальники харбинской военной миссии генералы Окикуса Шун и Янагита Гендзо и большинство других миссий в Маньчжурии. В августе сотрудники УКР «Смерш» Забайкальского фронта обнаружили место захоронения казненных сотрудников КВЖД в Хайларе. В ходе розыска удалось арестовать начальника японской военной миссии подполковника Амано, офицера Канеядмо и 10 японских жандармов, причастных к этому злодеянию. Из числа известных эмигрантов были арестованы атаман Семенов, его заместитель Бакшеев, идеолог российских фашистов К.В. Родзаевский и многие другие лица, активно сотрудничавшие с японскими властями и спецслужбами.
Чекисты расследовали обстоятельства, связанные с побегом за рубеж в июне 1938 г. бывшего начальника УНКВД по Дальневосточному краю Г.С. Люшкова, ставшего впоследствии советником 2-го отдела штаба Квантунской армии. Были получены документы о том, что Люшков передал японцам разведывательные данные по Дальнему Востоку и Тихоокеанскому флоту. Смершевцы также разыскали и арестовали представителей дайренской японской военной миссии, причастных к убийству перебежчика.
За период с начала дальневосточной кампании до середины декабря 1945 г. органами «Смерш» было арестовано 5484 сотрудника и агента японской разведки, 1303 руководящих и активных участника антисоветских белоэмигрантских организаций (в общей сложности разгромлены 13 организаций белогвардейского и фашистского толка), 1023 человека из числа различных «враждебных элементов».
Таким образом, в ходе войны с милитаристской Японией советская военная контрразведка полностью разгромила японские спецслужбы в Маньчжурии, на Южном Сахалине и в Северной Корее, ликвидировала все антисоветские эмигрантские центры, которые много лет вели борьбу с Советским Союзом.