淮军创建于1861年的上海，由本属湘军系统的李鸿章衔命于上海成立。其官兵大多以出身安徽两淮地区为主，故曰淮军。淮军早期的编制与训练方式大多延续自湘军，然而自1863年之后，开始全面换装西洋枪炮，成为当时中国战力最强的一支部队。

除了剿灭太平天国与捻乱立下功绩之外，在1882年朝鲜的壬午军乱，以及1884-1885的中法战争期间，淮军在越北、台湾等地的作战也算是与法国、日本互有胜负，其战力也得到当时欧美列强的注意。但是好景不长，该军毕竟仍出自传统社会，李鸿章对于模仿西方军制也止于武器装备的使用，关于部队根本的训练、编制、军官文化的养成等等则不感兴趣，使得这支部队的军纪日渐败坏，战斗力低落，种下甲午战争惨败的种子。

但无论如何，淮军在新旧交替的时代中，仍有承先启后的意义。而后开启中国新军运动的袁世凯、段祺瑞、冯国璋等人皆出自淮军，可以说其为孕育中国新式陆军的母体。