官名。西魏恭帝三年(556)置，北周沿置。夏官府次官，员二人，省称“小司马”。佐大司马卿掌军政以及官员迁调。北周孝闵帝时尉迟纲任职，总统宿卫禁兵。亦可统兵出征或暂时在外驻守。正六命。隋文帝开皇元年(581)罢。
官名。北周仿《周礼》之制设置， 正六命， 为大司马卿的副职。《周礼》小司马的职任是掌管小祭祀、小会同、飨射、师田、小丧纪，其规制如同大司马。北周以小司马上大夫总统禁卫兵。《周书·尉迟纲传》：“孝闵帝践阼，纲以亲戚，掌禁兵，除小司马。世宗即位，进位柱国大将军。”
