司马的职能是管理军赋、组织军训、执行军法。
1、管理军赋
国家的军赋，在周代包括兵役和军用物资。如《汉书－食货志》所说古者“赋共车马、甲兵、士徒之役，充实府库赐予之用”，这里的“士徒”指服兵役的将士和徒兵，“车马、甲兵”则为军需物资。司马管理军赋，是从制定军赋标准到征收运送，直至调配使用均由其负责。
2、组织军训
在原始社会末期，氏族武装临时召集，作战人员未经训练而应战，其作战方式十分简单，作战的技巧来自狩猎经验的积累。夏商时期军队也多是临时召集，同样也没有形成一套训练体制，只是通过田猎来提高军队的作战技能。
3、执行军法
“司马”作为全国军队的最高管理官，除管理国家军赋和组织军事训练外，还是军法的执行者。如《周礼－大司马》：“司马建旗于后表之中，群吏以旗物鼓铎镯铙，各帅其民而致。质明、弊旗，诛后至者”，“群吏听誓于陈前，斩牲以左右徇陈曰：不用命者斩之。”
官名设置
1、中央：殷商时代始置，位次三公，与六卿相当，与司徒、司空、司士、司寇并称五官，掌军政和军赋，春秋、战国沿置。汉武帝时置大司马，作为大将军的加号，后亦加于骠骑将军，后汉单独设置，皆开府。隋唐以后为兵部尚书的别称。
2、部队：汉武帝定制，司马，主武也，掌管军事之职。大将军所属军队分为五部，各置司马一人领之。魏晋南北朝，诸将军开府，府置司马一人，位次将军，掌本府军事，相当于后世的参谋长。 宋制，司马铜印墨绶，绛朝服，武冠。至隋时废州府之任，不置司马，改置治中。
