大元帅是全军之最高统帅。汉语元帅一词最早出现在公元前633年的春秋时期，其名源于《左传·僖公二十七年》（前633年）所载晋文公的“（晋）作三军，谋元帅”（即考虑中军主帅人选），晋国名将先轸在城濮之战与崤之战中屡立战功，成为了我国历史上第一位有元帅头衔并有着元帅战绩的军事统帅。当时元帅意为军中主将，只是表示对“将帅之长”的称呼，还不是官职名称。

从南北朝起，元帅逐渐成为战时统军征战的官职名称，如北周宣政元年（公元578年），宣帝宇文赟任命其叔父宇文盛和宇文招为“行军元帅”，率军作战。

唐朝李渊入关后，设有左右元帅。唐太宗李世民在继承皇位以前曾担任过“西讨元帅”。后又置天下兵马元帅、副元帅与行军元帅等，为战时最高统帅，元帅常以皇子或亲王担任，副元帅常以有威望的大臣担任，文武官任统帅则称总管。

北宋靖康时以康王赵构为天下兵马大元帅以拒金兵；金侵宋时亦设都元帅、左右副元帅，多由亲王任职，权位极重，非定职。

明朝在枢密院之下设诸翼元帅府，任命元帅、同知元帅等官职，统军征战。元、明两朝的元帅职权较前减轻，仅为二、三品官职。

清朝以皇帝为海陆军大元帅，如光绪皇帝。