«Цеппелин» состоял из руководящего штаба, находившегося до весны 1943 г. в Берлине, в здании VI управления РСХА (район Грюневальд, Беркаерштрассе, д. 32/35, затем — в районе Ванзее, Постдамерштрассе, д. 29), а также специальных воинских формирований, особых команд и учебных лагерей, действовавших на советско-германском фронте.
За весь период войны орган последовательно возглавляли: штурмбанфюрер СС Вальтер Курек, штурмбанфюрер СС Рольф Редер, оберштурмбанфюрер СС доктор Хайц Грефе, штурмбанфюрер СС доктор Эрих Хенгельхаупт и оберштурмбанфюрер СС Рапп.
Руководящий штаб «Цеппелина» состоял из аппарата начальника органа и трех отделов: Цет 1 — комплектование и оперативное руководство низовыми органами, снабжение агентуры техникой и снаряжением; Цет 2 — обучение агентуры; Цет 3 — обработка всех материалов о деятельности особых лагерей, фронтовых команд и агентуры, переброшенной в тыловые районы СССР.
В своей повседневной деятельности этот разведывательно-диверсионный орган руководствовался так называемым «Планом действий для политического разложения Советского Союза». Намеченную цель предполагалось осуществить путем заброски специально обученной агентуры в глубокие тыловые районы Советского Союза, имеющие важное оборонное значение, а также в национальные области и республики. Перед агентами ставились следующие задачи: сбор разведывательных данных о политическом положении в СССР, проведение националистической антисоветской пропаганды, организация повстанческого движения и осуществление террористических актов против партийных и советских лидеров.
Руководители германского рейха надеялись на то, что «Цеппелин» сможет подорвать крепость советского тыла и этим окажет реальную помощь командованию немецкой армии в борьбе против Красной Армии.
Весной 1942 г. «Цеппелин» направил на советско-германский фронт четыре особых команды (зондеркоманды), которые были приданы оперативным группам полиции безопасности и СД при основных армейских группировках вермахта.
Зондеркоманды «Цеппелина» занимались отбором военнопленных для подготовки агентуры в учебных лагерях, собирали сведения о политическом и военно-экономическом положении СССР путем опроса военнопленных, проводили сбор обмундирования для экипировки агентуры, различных воинских документов и других материалов, пригодных для последующего использования. Все документы и предметы экипировки направлялись в руководящий штаб, а отобранные военнопленные — в особые лагеря «Цеппелина».
Команды также перебрасывали подготовленную агентуру через линию фронта как пешим путем, так и с самолетов на парашютах. Весной 1943 г. зондеркоманды были расформированы, а вместо них на советско-германском фронте созданы две главные команды — «Русланд Митте» (позднее переименована в «Русланд Норд») и «Русланд Зюд» (или «Штаб доктора Редера»). Чтобы не распылять силы по всему фронту, эти команды сосредоточили свои действия только на важнейших направлениях: северном и южном.
Каждая из главных команд «Цеппелина» с входившими в нее службами была мощным разведывательным органом и насчитывала несколько сотен сотрудников и агентов.
Начальник команды подчинялся только руководящему штабу «Цеппелина» в Берлине, а в практической работе имел полную оперативную самостоятельность. Свои действия он координировал с другими разведорганами и военным командованием.
После перехода советских войск в развер-нутое наступление по всему фронту «Цеппелин» усилил работу по организации диверсионных актов на военных объектах и сбору разведывательных данных, начал подготавливать и забрасывать через линию фронта диверсионно-террористические группы.
Немцы пытались также организовать сепаратистское движение в национальных республиках, стремясь с его помощью отторгнуть их от СССР и создать марионеточные государства под протекторатом Германии. С этой целью в 1941-1942 гг. РСХА совместно с имперским министерством по делам оккупированных восточных областей в Берлине был создан ряд так называемых «национальных комитетов» (Грузинский, Азербайджанский, Армянский, Туркестанский, Северокавказский, Волго-Татарский и Калмыцкий), перед которыми ставилась задача привлечения национальной эмиграции для активной борьбы против Советского Союза.
В состав «национальных комитетов» органы «Цеппелина» внедряли свою агентуру и использовали ее в целях обработки в антисоветском духе военнопленных разных национально стей Советского Союза, подбора и подготовки из них кадров разведчиков и диверсантов для засылки в советские национальные республики для подрывной работы.
В конце 1942 г. отделом пропаганды штаба главного командования вермахта совместно с разведкой в Берлине был создан «Русский комитет» во главе с изменником Родине, бывшим генерал-лейтенантом Красной Армии А. Власовым. Комитет проводил активную работу по формированию воинских частей «Русской освободительной армии» из числа военнопленных и советских граждан, вывезенных в Германию.