西汉时期，洛阳城中的最高长官是河南太守。河南太守的官秩为二千石（秦汉时期，每年给官员一定数量的粮食作为俸禄，丞相最高，每年万石。其他官员依次递减，分别为：中二千石、二千石、比二千石、千石、比千石、八百石、比八百石、六百石、比六百石、四百石、比四百石、二百石、比二百石、百石。 ）负责一郡的行政事务。西汉时期见于文献记载的河南太守有十个人。汉文帝时期的河南太守吴公，号称“治平为天下第一”。（《史记》第2491页）他是秦朝丞相李斯的学生，还是洛阳才子贾谊的老师。汉武帝时期见于记载的河南太守有司马安。

汉宣帝时期见于记载的河南太守有魏相、韦玄成和严彭祖三人。魏相在担任河南太守期间，“禁止奸邪，豪强畏服”。（《汉书》第3133页）正当百姓们为能有一个替百姓做主的好太守而庆幸的时候，魏相却被意外下狱。丞相车千秋的儿子在洛阳担任武库令，在车千秋去世之后，车千秋的儿子知道魏相非常严厉，对豪强并不留情，肯定会对自己不利，干脆开溜了事。魏相虽然派人挽留，但他知道自己罪孽深重，不敢留下来。当车千秋的儿子到了长安以后，大将军霍光却认为魏相太过浅薄而势利，看到丞相去世了，就把他的儿子给驱逐了。正巧有人诬告魏相滥杀无辜，魏相就此被下到廷尉所属的监狱之中。这时在关中的河南籍戍卒有两三千人拦住霍光的车队，纷纷表示愿意多在关中服役一年，来为魏相赎罪。河南郡也有一万多父老乡亲，来到函谷关前，要求上书皇帝为魏相讼冤。魏相在监狱里被关了一个冬天，恰逢朝廷大赦才得以出狱。后来他又被任命为扬州刺史，任职二年，以政绩卓著，再次被升任河南太守。魏相在河南太守任上又任职四年，汉宣帝即位后被征召到长安，最后官至丞相，封高平侯。韦玄成后来也官至丞相，而著名学者严彭祖后来也官至九卿。

汉成帝时期见于记载的河南太守有三人，其中王崇后来官至御史大夫。而召信臣，是西汉历史上著名的循吏。他在南阳郡的时候，被当地百姓称为“召父”。南阳郡所在的荆州刺史部，上奏朝廷说“信臣为百姓兴利，郡以殷富”，皇帝不仅“赐黄金四十斤”，而且还把他调任河南太守。召信臣在调任河南太守后，依然心系百姓，尽职尽责，“治行常为第一”。（《汉书》第3642页）皇帝对他的赏赐除了黄金以外，还提升了他的俸禄级别。最后，召信臣官至九卿之一的少府。而王嘉在河南太守任上，“治甚有声”（《汉书》第3488页），他在汉哀帝的时候官至丞相。

西汉河南太守之中，也出过著名的酷吏严延年，早在涿郡（今河北涿州市）太守任上，他就以敢于杀伐而著称。涿郡倒也被他治理得路不拾遗，为此皇帝特地赏赐他黄金二十斤，还把他调任河南太守。严延年到任之后，严厉打击豪强，扶助贫弱。贫苦百姓违反了法律，严延年不惜更改讼词，尽可能把他们释放出去。但是豪强大族犯了罪，严延年一定要千方百计严厉治罪。属下认为应当释放的人，严延年总是立即处以重罪；属下认为应当从重处罚的，严延年总是立即释放。没有人能够猜透他的心思，所以众人对他都很害怕，也没有人胆敢违反法令。而且经他办理的案子，都文辞严谨，毫无破绽，即便有人想翻案，也找不到借口。对待尽职尽责的下属，他“厚遇之如骨肉”，所以他得到属下的真心拥戴。但他的确杀伐过重，“冬月，传属县囚，会论府上，流血数里”，因此他被人称为“屠伯”。（《汉书》第3669页）严延年因得罪人太多，最终落得“弃市”的结局。

以善于饮酒而著称的陈遵也曾出任河南太守。陈遵颇具游侠气质，也的确才气不凡。陈遵在担任河南太守之后，有很多需要处理的书信，他把善于书写的下属叫来十多个，他自己凭几而坐，一边向这十多个下属口授书信，一边处理政府的公文，一下子口授了数百封信，而且根据对象的亲疏不同，语气和内容也各有所别。整个河南郡无不震惊于他的才思敏捷。可惜，他只担任了几个月的河南太守就被免职了。

总的来看，西汉时期的河南太守，少有碌碌无为之辈，可见朝廷对河南太守的人选非常看重。而十位河南太守之中，有七位都有进一步的升迁，三位位极人臣，可见西汉时期，河南太守也是一个很有政治前途的职位。同时，由此也可以看出西汉时期河南太守的重要性。

汉武帝时期，函谷关从灵宝迁到了新安县，汉函谷关遗址

河南太守高级属官有丞，丞的级别为六百石。汉宣帝时期的丞相黄霸就曾任河南太守丞。河南郡还设有河南都尉，负责一郡的治安。河南都尉的治所也在洛阳城中。汉昭帝时田广明曾任河南都尉。他也是一个著名的酷吏。

西汉时期河南郡的郡治就设在洛阳城中。在洛阳城里还设置有武库、铁官、工官和诏狱。武库是古代掌管兵器的官署。汉代置武库署，有武库令丞，掌藏兵器。本属执金吾。武库设有武库令、丞。因为洛阳是西汉政府控制东方的重镇，因而也在洛阳设有武库。前面提到汉昭帝时期丞相田千秋之子就曾经任洛阳武库令。大将军霍光曾经解释这一任命的原因：“以为函谷京师之固，武库精兵所聚，故以丞相弟为关都尉，子为武库令。”（《汉书》第3133页）铁官是盐铁官营以后所设立的专门负责铁器生产的机构。工官是负责手工业生产的部门，除了在长安，在各主要的手工业城市中也都有工官。诏狱是直接对皇帝负责的监狱。元朝学者胡三省为《资治通鉴》卷十九武帝元狩元年（公元前122年）条“诏狱”作注，解释为：“盖奉诏以鞫（jū，审问）囚，因以为名。”（《资治通鉴》第624页，中华书局1976年版）意为此监狱的罪犯都是由皇帝亲自下诏书定罪。汉武帝时淮南王刘安谋反一案起初就是在洛阳进行审理的。汉成帝时大臣淳于长就是被投入洛阳诏狱之中进行审问的，汉哀帝时大臣息夫躬也是在洛阳诏狱中死于非命的。

在郡之下是县，大县的长官叫县令，小县的长官叫县长。县令的级别最高可以达到千石，县长的级别可以达到六百石。汉宣帝时期的大儒贡禹曾任河南县令。负责一县治安的有县尉。