В 1917 вернулся в Петроград, вступил в военную организацию РСДРП(б), являлся членом большевистской фракции городского Совета рабочих и солдатских депутатов, участвовал в издании газеты «Солдатская правда». Участник вооруженных боев в Москве в октябре 1917. После октябрьского переворота ответственный редактор газеты «Крестьянская беднота», управляющий делами Высшей военной инспекции Рабоче-Крестьянской Красной Армии.
С ноября 1919 управляющий делами особого отдела ВЧК, а затем и всей Всероссийской чрезвычайной комиссии по борьбе с контрреволюцией и саботажем, член коллегии ВЧК. Проявил организаторские и административные способности, неоднократно предлагал проекты по реорганизации и улучшению деятельности аппарата центральной ВЧК и ее местных органов (некоторые из них были приняты). Быстрому карьерному росту способствовали беспринципность, стремление выполнить любой приказ руководства, а также родственные связи Ягоды.
С июня 1922 начальник особого отдела преемника ВЧК Главного политического управления (ГПУ), с сентября 1923 второй заместитель председателя Объединенного ГПУ (ОГПУ), одновременно начальник особого, затем секретно-оперативного отдела ОГПУ, отвечавшего за борьбу с внутриполитической оппозицией. С октября 1929 первый заместитель председателя ОГПУ (из-за болезни В.Р.Менжинского с начала 1930-х годов фактически руководил всей его деятельностью), а с июля 1934, после преобразования ОГПУ, нарком внутренних дел СССР. В ноябре 1935 Ягоде присвоено звание генерального комиссара государственной безопасности.
Подпись Ягоды стоит под постановлениями о высылке из страны в 1922 Н.А.Бердяева, П.А.Сорокина, других известных представителей русской интеллигенции, под документами о выдворении из СССР Л.Д.Троцкого и его семьи, на ордерах об аресте поэта О.Э.Мандельштама, драматурга Н.Р.Эрдмана и многих других. Ягода руководил или принимал непосредственное участие в проведении в конце 1920-х годов операции «Весна» по репрессированию бывших офицеров и генералов старой армии, в фабрикации материалов «Шахтинского дела» (1928), процессов «Трудовой крестьянской партии» (1930), «Промпартии (Инженерного центра)» (1930), «Союзного бюро ЦК РСДРП меньшевиков» (1931) и др.
В то же время он покровительствовал писателям и художникам, организовывал у себя литературные вечера и салоны. Борьбу с беспризорностью вела знаменитая в те годы Болшевская трудовая коммуна ОГПУ, носившая имя Ягоды, не раз приезжавшего к детям. Среди организаторов строительства Беломоро-Балтийского канала (его строили заключенные ОГПУ НКВД) видное место принадлежало руководителю чекистского ведомства. Оправдывая массовую гибель подневольных строителей задачами «выковывания нового человеческого материала», Ягода даже организовал для группы советских писателей во главе с А.М.Горьким ознакомительную поездку на эту стройку, итогом которой стала вышедшая в горьковской серии «истории фабрик и заводов» книга Беломоро-Балтийский канал имени Сталина. История строительства.
После убийства С.М.Кирова в декабре 1934 Ягода возглавил работу по «выявлению» и уничтожению «террористов и диверсантов» из числа бывших оппозиционеров. При его участии органами НКВД были сфальсифицированы дела «Ленинградского террористического зиновьевского центра» (декабрь 1934), «Московского центра контрреволюционной зиновьевской организации» (январь 1935), «Контрреволюционных террористических групп в правительственной библиотеке и комендатуре Кремля» (июль 1935), «Объединенного троцкистско-зиновьевского центра» (август 1936).
Тем не менее этого оказалось недостаточно. В телеграмме Сталина и А.А.Жданова из Сочи от 25 сентября 1936, адресованной членам Политбюро ЦК ВКП(б), говорилось: «Считаем абсолютно необходимым и срочным делом назначение тов. Ежова на пост наркомвнудела. Ягода явным образом оказался не на высоте своей задачи в деле разоблачения троцкистско-зиновьевского блока. ОГПУ опоздал в этом деле на 4 года. Об этом говорят все партработники и большинство областных представителей НКВД...». На следующий день Н.И.Ежов был назначен наркомом внутренних дел СССР, а Ягода перемещен на должность наркома связи СССР.
На февральско-мартовском (1937) пленуме ЦК ВКП(б) обличительную речь против Ягоды произнес Н.И.Ежов. С критикой опального начальника выступили его бывшие подчиненные Л.М.Заковский, Я.С.Агранов, В.А.Балицкий, Е.Г.Евдокимов. Пленум ЦК ВКП(б) принял резолюцию, осуждавшую деятельность бывшего наркома внутренних дел. 28 марта 1937 Ягода был арестован, в НКВД началась «чистка», в результате которой все служившие при Ягоде 18 комиссаров государственной безопасности первого и второго рангов были расстреляны или погибли в заключении.
Материалы «дела» бывшего наркома искусственно приобщили к делам Н.И.Бухарина, А.И.Рыкова и других. Ягода оказался на скамье подсудимых рядом с теми, против кого когда-то боролся. Процесс «антисоветского правотроцкистского блока» состоялся в Москве 213 марта 1938. На суде Ягода подтвердил большинство предъявленных ему обвинений: в подготовке кремлевского заговора, в связях с Л.Д.Троцким, в организации убийства своего бывшего шефа В.Р.Менжинского, В.В.Куйбышева и А.М.Горького, но отрицал шпионаж и участие в убийстве С.М.Кирова. Был осужден к расстрелу. Приговор был приведен в исполнение 15 марта 1938.
Как один из организаторов репрессий (по неполным данным, за время пребывания Ягоды на посту руководителя ОГПУ НКВД с 1922 по 1936 было расстреляно более 52 тыс. человек) не реабилитирован.
Литвин А.Л. От анархо-коммунизма к Гулагу: к биографии Генриха Ягоды. 1917 год в судьбах России и мира. Октябрьская революция: от новых источников к новому осмыслению. М., 1998
Кто руководил НКВД. 19341941. Справочник. М., 1999