中国是最早发明火药的国家，至迟在9世纪，中国人已经发明了火药炮。

在12世纪，金人制造的“震天雷”，是世界上最早的火炮。南宋绍兴三十一年（1161年），宋金采石矶之战中，宋军使用了霹雳炮，这种火炮用纸筒包装，内装火药，点燃后会发出巨响。

到了元朝，火炮有了进一步的发展，军队中装备了大量的火炮。元至正二十七年（1367年），朱元璋在应天府（今南京）设立兵工厂，集中工匠制造火炮。明洪武十年（1377年），明政府在首都南京设立了专门制造火炮的兵工厂，称为“龙江制造局”。