2月18日，日军驻大同黑田师团3000余人，包围山西应县下社十二堡和小石口。下社由12个堡组成，俗称“十二联堡”，小石口为长城要地，两地均在应县东南，是阎锡山军乔日成部驻地。日军与乔军激战，乔军溃败，乔日成带10余人突围，下社十二堡和小石口沦于敌手。18日，日军在丰寨堡的铁匠铺内，将本村民众9人和外地客商20多人全部杀死，财物抢劫一空，又放火烧了院子。

第二天，日军用坦克撞开新堡的堡门。在刘善礼家，日军杀死了刘家11口人和另外4人。在智礼法家，日军杀死6名妇女、数名客商和4个乔军士兵。乔长生院内有20余人被杀害。堡墙西北的土照壁下日军杀死了五六十人。日军把搜捕的60多人赶到杨品良院内，全部用刺刀刺死。日军还轰毁了建于明洪武十四年的天王寺，杀死寺中和尚。在前堡南园的一口井中有27具尸体。日军在小石口把抓到的27名村民和各村抓来的60余人全部杀害。加上被杀害的乔军俘虏，日军在小石口共杀害287 人,仅常门道一处就埋了187具尸体。

最大的杀人场在新堡的村北,约9亩大的一块地上，尸体堆了一大半。死者个个血肉模糊,扭曲变形。由于没有一个幸存者，所以没有人(除了日本人)知道在这里发生的集体大屠杀的细节。事后有人数了数,这一大片尸体，约有1100具。23日，日军撒离下社。前后5天，日军在下社和小石口屠杀中同胞1700余人,其中外村人、外地客商和乔军俘虏1500余人，烧毁房屋850余间，抢走大批银元。