Родился в Москве 2 (14) января 1893 в семье аптекаря. С 1911 учился на физико-математическом факультете Московского университета, попутно (в 19131914) посещая студию В.Н.Мешкова. В 19141917 занимался в Училище живописи, ваяния и зодчества, в частности у А.Е.Архипова и К.А.Коровина. Был одним из активных членов АХРР. В 19321933 по приглашению А.М.Горького побывал в Италии. Жил в Москве.
Восторженно почитал старых итальянских, голландских и фламандских мастеров, чему способствовал его огромный опыт музейного реставратора (работал в Центральных реставрационных мастерских, 19241927, а в 19261931 заведовал соответствующей мастерской Музея изобразительных искусств). Будучи «воинствующим реалистом», настроенным к арт-авангарду крайне негативно, противопоставлял ему манеру, основанную на детальной имитации живописной классики. Так, образы Ренессанса и барокко совмещенные с впечатлениями от творческих командировок или современного артистического быта претворялись в живописный цикл Рыбы Баренцева моря (19311934), в картины Вакханалия (1934), Старатели пишут творцу Великой Конституции (1937), Спор об искусстве (1946; все три работы Русский музей), Колхозное стадо (1948, Музей изобразительных искусств, Оренбург; Сталинская премия 1949), Возвращение с охоты (1948, Третьяковская галерея) и др., всем им присуща натюрмортно-дотошная детализация предметных и телесных фактур, порою обретающая (как в пародийно-эротической Вакханалии с портретами друзей-художников или бурном Споре об искусстве, что происходит в студии, загроможденной антиквариатом) почти сюрреальный оттенок. Часто выступал как салонного толка портретист (Арфистка В.Г.Дулова, 1934, частное собрание, Москва; и др.) и мастер пейзажа «в старинном вкусе» (виды Сорренто, 1933).
В 19381939 и 19491950 занимал пост главного художника Всесоюзной сельскохозяйственной выставки. Закрепил свой высокий официальный статус героическими портретами периода Второй мировой войны (Герой Советского Союза В.Н.Яковлев, 1941; Партизан, 1942; оба портрета в Третьяковской галерее; Сталинская премия 1943). Однако его конный портрет маршала Г.К.Жукова на фоне пылающих берлинских руин (19451946, Музей блокады Ленинграда) вышел чересчур патетическим, как бы ущемляющим авторитет генералиссимуса, и был запрещен для показа. Мастер активно выступал и как педагог (преподавал с 1918 в Свободных художественных мастерских, Институте имени В.И.Сурикова и других училищах). Обращался к литературе, написав в 1930-е годы автобиографическую повесть Фрол Скопин (опубликована в его посмертной очерковой книге Мое призвание, 1963). Однако все его книги (О живописи, 1951; О великих русских художниках, 1952; Художники, реставраторы, антиквары, 1966) неизменно получались слишком прекраснодушными и автоцензурными. Последней крупной работой Яковлева было руководство (вместе с П.П.Соколовым-Скаля) реставрацией Севастопольской панорамы Ф.А.Рубо (с 1952).
Умер Яковлев в Москве 29 июня 1953.
Сидоров А.А. В.Н.Яковлев. М., 1950