李鸿章率淮军赴上海和太平军作战时，由于对手李秀成部已经装备了不少西式武器，加上在上海和洋人的交往，使得他日益感受到西式武器的威力，于是大量购买洋枪洋炮装备淮军。

由于外购武器不仅价格昂贵，而且当时没有稳定的供货渠道，购买时常常时续时断，李鸿章就有意仿制西式武器。

此时在淮军中担任炮队教习、军医出身的英国人马格里有意显示自身价值，也向李鸿章提出从西方购买弹药价格过于昂贵，建议进行仿造。为了证明自己建议的可行性，马格里利用手头现有的锉刀、锤子等简陋工具制造了一颗炮弹和引信。

李鸿章对马格里自制的炮弹进行反复查验、对比，确认质量可靠以后，立即命直隶州知州刘佐禹配合马格里，在上海松江城外淮军驻地附近的一所庙宇中创办了上海洋炮局，开始了制造弹药的工作，这也是中国近代史上第一家兵工厂。

上海洋炮局开始只能够生产一些弹药，产量也很有限，只能满足淮军部分需要，李鸿章还是不得不大量从洋人手中购买武器弹药才能满足作战所需。之后随着设备和人员的不断增加，上海洋炮局的生产规模不断扩大，产品也日益增加。

等到李鸿章将上海洋炮局迁到苏州，更名为“苏州洋炮局”时，通过扩招工人加上从阿思本舰队购买的车床机器，此时苏州洋炮局不仅能够生产开花炮弹，还能够生产自来火枪、田鸡炮等武器。

苏州洋炮局后来一分为二，一部并入江南制造局，一部则并入了金陵制造局。此外清廷派遣八旗火器营的护军参领萨勒哈春等人前往苏州洋炮局进行学习，之后返回北方，为天津机器局的创办打下了基础。