1955年1月，新中国第一次有海空军协同的登陆战役——一江山岛战役打响。引进自前苏联的图-2战术轰炸机和伊尔-10强击机也参与了这次行动。水平轰炸的图-2直接用250公斤炸弹把港内的补给舰炸成一团火球，伊尔-10攻击机的俯冲轰炸直接击沉了"太和"号护卫舰。

战役结束后，解放军高层意识到了轰炸机的重要性，便开始了国产轰炸机的研制。早在1952年，中国空军就已经迅引进了伊尔-28，并对其比较满意。作为国产轰炸机的第一次尝试，当时才完成了工业化基础建设的中国根本没有办法迅速上马一款轻型战术轰炸机的研制。

最初，国防部也只是想直接引进伊尔-28的生产线进行仿制生产。1957年中苏友好协约签订，苏联马上援助中国建立了一座中型轰炸机制造厂。1956年第一架歼-5下线，配套的涡喷-5发动机也能够量产。而作为轰-5的动力来源——涡喷-5甲，也迅速展开研制工作。

一切都为轰-5的研制做好了铺垫，这也使得轰5的研制进展异常顺利。对于一个仅拥有着数年航空工业经验积累的国家来说，1963年展开研制的轰炸机项目在1966年就成功首飞，这是很不可思议的。更何况轰-5并不是直接逆向工程仿制，而是在原机的基础上，经过了较大量的修改过后才正式定型。

但是，对于这款战术轰炸机，空军要求其70%到80%的零件与轰-6相同，以简化后勤，减小生产压力，以求这两款轰炸机都能迅速量产服役。1963年，中国航空科研人员成功设计出轰-5。与原版伊尔-28相比，轰-5修改了内部的部分结构，总变更量达到全机重量的40%。选用了更为先进的雷达和轰炸瞄准具。换用了新型航炮、尾炮塔的同时，还增加了23mm航炮的备弹量，

单看轰-5的外形，恐怕与二战轻型轰炸机最大的不同便是将活塞发动机换成喷气发动机。另外在上机身凸起一个气泡状舱盖，完全为了兼顾驾驶员的视野才这么做。领航员/瞄准手座舱后面便是弹舱和油箱，最后面才是只能通过无线电交流的尾炮手座舱。