据《新元史》载，马祖谦曾任束鹿县达鲁花赤。遍查《束鹿县志》，均不见载。马祖谦的祖上，“世为雍古部”。“雍古氏，回鹘（纥）之贵族也”。为西域基督教聂思脱里派贵族。宣政（578）年末，他的先祖率部来到了临洮定居。金兵征服临洮后，全家迁往辽东。五世祖帖木尔越哥，任金人的马步军指挥使，因其官名有马，子孙按照以官为氏的惯例改姓马。四世祖把扫马野礼属将全族移居净（静）州天山（即今日内蒙古四王子旗），故为汪古部人。三世祖马庆祥，本名昔（锡）里吉思，任金凤翔府路兵马都总管判官。大军克凤翔，昔里吉思尽室自焚。其仆人从火中抢抱出一个婴儿，即月乃合。曾祖月乃合随从元世祖忽必烈攻打宋朝，遂留居开封，在元中统二年（1261），拜礼部尚书，佩金虎符。他有八个儿子，取汉名的有七人，均以“世”字排行，世忠，常平仓都转运使；世昌，尚书省左右司郎中，赠嘉议大夫、吏部尚书，追封梁郡公；世显，通州知州；世禄，织染局捉举；世吉，绛州判官；世温，瑞州路总管。世昌的儿子马润，任同知漳州总管府事，任光州监军。“监是州，有遗爱，秩满，民挽留之，不忍其去，因家于光。”遂定居于光州（今河南省光山县）；马润生子六：祖常、祖义、祖烈、祖孝、祖谦等。祖谦，字符（元）德，马润第六子，由国子生中进士，授保德州同知，迁束鹿县达鲁花赤。元朝对除蒙古以外的西北各族﹑西域以至欧洲各族人概称为“色目”人，意为“各色各目”、色目相异之人。马家自然应列为色目人。色目人在元朝的建立和统一全国的过程中大量进入汉族居住地区﹐他们受到元朝的重视﹐被列为全国四等人中的第二等人，待遇仅次于蒙古人。他们可以担任汉族官员不能担任的职务。按规定，在地方政府中，蒙古人任达鲁花赤，汉人任总管，色目人任同知，以便互相监督。雍古部是较早归顺成吉思汗的部族，成吉思汗和他们约为儿女亲家,，世代通婚，地位自然提升，马祖谦才能担任一般由蒙古人担任的达鲁花赤一职。马祖谦任束鹿县达鲁花赤时，做出了许多有利于百姓的政绩，吏部的官员来到束鹿县考察，有几百个父老争言其贤，考察者把这个情况报告给皇帝，召为昭功万户府知事。卒于至元二年，年四十二。元代有两个“至元”年号，其卒于后至元二年（1336），即生于第一个至元三十一年（1294）。他死后，元朝名臣、著名史学家，真定（今河北正定）人苏天爵为马祖谦撰写了墓志铭。其兄马祖常为元朝著名诗人、文学家，其笔力遒劲,声调雄放,标奇竞秀,为元代文学的发展作出了重要的贡献。他也曾写过一首《寄六弟元德宰束鹿》诗：我有六兄弟，我长汝最幼。我长守田庐，汝幼侍亲右。跋涉万里途，随牒越闽岫。亲复当官清，昼坐寘宴豆。教汝读诗书，夙夜猎文囿。不幸亲弃予，万里汝扶柩。汝兄元礼贤，斩服携汝走。我自河淮南，迎丧匍匐救。号哭天不?，崩裂屡颠踣。归安桐乡阡，铭文手自镂。买石砻古仪，树栢夹汉兽。俯仰叹存没，今兹霜露又。汝今出作县，偶尚书簉。戒汝忆亲教，公田代耕耨。汝素谨礼法，口未见嗔诟。更宜歌我诗，无视我老谬。憔悴伤民恫，恚忿两莫斗。县政书考功，同去听山溜。