Для уменьшения вероятности поражения из задней полусферы самолет требовалось оснастить кормовой артустановкой с 23-мм пушкой и боезапасом в 50 снарядов. Проектирование бомбардировщика велось под шифром Як-129 в течение полутора лет.
В самом начале работ, 15 августа 1956 г., вышло постановление Совмина №1115-578 (приказ МАП №453 от 21 августа), согласно которому ОКБ-115 также поручалось разработать вариант самолета под два очень мощных двигателя ВК-11 с тягой на максимальном режиме 6100 кгс и 9000 кгс на форсаже. При этом значительно повысились требования к ЛТХ бомбардировщика. Так, максимальная скорость на форсаже должна была возрасти до 2500 км/ч, практический потолок — до 20000-21000 м, дальность полета на высоте 14000-15000 м при скорости 1000 км/ч — до 2500 км, а при полете на высоте 19000-20000 м — до 2000 км (при этом 500-600 км — со скоростью 2000 км/ч и 1400-1500 км — со скоростью 1000 км/ч). Первый из двух опытных экземпляров следовало предъявить на заводские испытания в I квартале 1958 г., а в IV квартале — на госиспытания. Предполагалось, что ВК-11 будет устанавливаться на тяжелые перехватчики ОКБ П.О.Сухого (Т-37) и ОКБ А.И.Микояна (Е-150), однако он оказался невостребованным, и по этой причине не запускался в серийное производство. Поэтому задача по его установке на Як-129 была снята.
Первый полет новой машины состоялся 5 марта 1958 г. В воздух ее поднял ведущий летчик-испытатель ОКБ В.М.Волков. С этого дня начались заводские испытания машины, которые проводились на аэродроме ЛИИ и завершились 4 октября. К тому времени новому бомбардировщику присвоили серийное обозначение Як-28. Самолет получил в НАТО кодовое обозначение Brewer-A (Пивовар). Кроме Волкова, самолет облетали летчик-испытатель завода №30 С.Г.Петухов и ведущий пилот ЛИИ С.Н.Анохин. По сравнению с Як-26 взлетная масса нового бомбардировщика выросла до 12885 кг (при нормальной бомбовой нагрузке 1200 кг и запасе горючего 3200 кг). На форсаже удалось набрать 10000 м за 3,5 мин и достичь максимальной скорости 1500 км/ч.