С февраля 1948 по октябрь 1965 занимался оборонной тематикой, работая над созданием атомной и водородной бомб, в связи с чем удостоен был Ленинской премии и трижды звания Героя Социалистического Труда СССР. С 1965 по январь 1983 заведовал отделом Института прикладной математики АН СССР. С 1965 профессор физического факультета МГУ, заведующий отделом релятивистской астрофизики Государственного астрономического института им. П.К.Штернберга (ГАИШ МГУ). С 1983 заведующий отделом Института физических проблем АН СССР, консультант дирекции Института космических исследований АН СССР. С 1977 руководитель Научного совета по горению АН СССР. В 1946 был избран членом-корреспондентом АН СССР, а в 1958 академиком. Награжден золотой медалью им. И.В.Курчатова за предсказания свойств ультрахолодных нейтронов и их обнаружение и исследование (1977).
Теоретической астрофизикой и космологией занимался с начала 1960-х годов. Стал одним из создателей релятивистской астрофизики новой области науки, в которой общая теория относительности применяется к астрофизическим объектам. Разработал теорию строения сверхмассивных звезд и теорию компактных звездных систем; эти теории могут быть применены для описания процессов в ядрах галактик и квазаров. Впервые описал полную качественную картину последних этапов эволюции обычных звезд разной массы, исследовал, при каких условиях звезда должна либо превратиться в нейтронную звезду, либо испытать гравитационный коллапс и превратиться в черную дыру. Детально изучил свойства черных дыр и процессы, протекающие в их окрестностях. Указал на возможность обнаружения этих объектов как источников рентгеновского излучения в тесных двойных системах. В 1962 показал, что не только массивная звезда, но и малая масса может коллапсировать при достаточно большой плотности; в 1970 пришел к выводу, что вращающаяся черная дыра способна спонтанно испускать электромагнитные волны. Эти результаты Зельдовича подготовили открытие С.У.Хокингом явления квантового испарения черных дыр.
В работах Зельдовича по космологии основное место занимала проблема образования крупномасштабной структуры Вселенной. Ученый исследовал начальные стадии расширения Вселенной. Вместе с сотрудниками построил теорию взаимодействия горячей плазмы расширяющейся Вселенной и излучения, создал теорию роста возмущений в «горячей» Вселенной в ходе космологического расширения, рассмотрел некоторые проблемы, связанные с возникновением галактик в результате гравитационной неустойчивости этих возмущений; показал, что возникающие образования высокой плотности, которые являются, вероятно, протоскоплениями галактик, имеют плоскую форму. Ряд предсказанных Зельдовичем эффектов получили экспериментальное подтверждение. В последние годы были открыты гигантские пустые области во Вселенной, окруженные сгущениями галактик, и обнаружено понижение яркостной температуры реликтового радиоизлучения в направлениях на скопления галактик с горячим межгалактическим газом (эффект Зельдовича Сюняева).
Зельдович работал также над проблемой происхождения магнитных полей звезд и галактик в рамках «теории динамо». В последние годы жизни разрабатывал «полную» космологическую теорию, которая включала бы рождение Вселенной. Создал школу релятивистской теоретической астрофизики.
Член более десяти иностранных академий наук и научных обществ, первый президент Комиссии «Космология» Международного астрономического союза (19701973). Трижды Герой Социалистического Труда, лауреат Ленинской премии и четырех Государственных премий СССР, награжден медалью им. К.Брюс Тихоокеанского астрономического общества (1983), Золотой медалью Лондонского королевского астрономического общества (1984).
Умер Зельдович в Москве 2 декабря 1987.
Зельдович Я.Б. Теория горения и детонации. М., 1944
Зельдович Я.Б., Райзер Ю.П. Физика ударный волн и высокотемпературных гидродинамических явлений. М., 1966
Зельдович Я.Б., Новиков И.Д. Релятивистская астрофизика. М., 1967
Зельдович Я.Б., Новиков И.Д. Теория тяготения и эволюция звезд. М., 1971
Яков Борисович Зельдович (к 60-летию со дня рождения). Успехи физ. наук, 1974, т. 112
Зельдович Я.Б., Новиков И.Д. Строение и эволюция Вселенной. М., 1975
Зельдович Я.Б., Блинников С.И., Шакура Н.И. Физические основы строения и эволюции звезд. М., 1981
Зельдович Я.Б. Избранные труды, т. 12. М., 1984
Долгов А.Д., Зельдович Я.Б., Сажин М.В. Космология ранней Вселенной. М., 1988
Знакомый незнакомый Зельдович (в воспоминаниях друзей, коллег, учеников). М., 1993