林州市殷商时期，位于安阳殷都之西百里之内，西周、春秋之时属卫国河内，戎狄迫卫东迁后被晋国收复，战国时三晋分家后属赵，相传为赵献子迁都于此38年的中牟，后易地与魏，汉称隆虑、林虑，后称林县、林州。

清代县志引用《荀子》书中记载称林州为战国时韩国临虑邑，然先秦其他文献除荀子外皆未发现临虑之地名，而荀子原文为“（秦国）在韩者踰常山乃有临虑”，但古常山是指千里之外的北岳恒山，况且林州市区战国墓出土众多铜鼎、编钟、车驾皆考证为赵国形制，故而林州属韩国上党郡之说实无法考证。

张增午《赵都中牟林州说》以林州盆地北涉漳水而通邯郸、西越羊肠陉道以至上党壶关、南筑长城以拒魏国、东出牟山以争中原之势当为赵都之地，本地方言与邯郸方言近似同源，却与近邻安阳、鹤壁方言天壤之别，也佐证林州、邯郸同属赵地，安阳、鹤壁另属魏地。