马连宝是济南人。他出生于一个体育世家。他的叔叔马清宗是中国第一代摔跤王。马连宝、大哥马连忠、二哥马连民、表弟马连年都喜欢练习摔跤。马连宝差一点就加入了山东摔跤队。据马连宝介绍，父亲喜欢练长棍，母亲擅长散打。新中国成立前，母亲还年轻。有一次，韩复榘的女教官在擂台上进行比赛，他的母亲踢了国民党高级女军官。其叔父马清宗开擂台后，曾击败日本教官，成为济南人津津乐道的佳话。

马三兄弟最终走上了篮球之路。大哥马连忠曾担任空军男篮主教练NBA直播吧，二哥马连民曾担任山东男篮主教练。入伍后，马连宝加盟八一队，后来入选国家队，担任主力后卫。退役后，担任国家男女篮球队助理教练。他培养和执教的弟子有阿的江、刘玉栋、范斌、姚明、王治郅等。如今的山东男篮八一篮球退休教练，李敬宇、吴轲，还有他们之前的孙杰、李林，也是马连宝的弟子。

2008年从八一工程队退役后，马连宝转战CBA八一篮球退休教练，利用剩余的精力八一篮球退休教练，担任山西队主教练、福建队助理教练、主教练。在执教国青队期间，姚明也得到了马连宝的指导。长期以来，马连宝为国内篮球人才培养做出了重要贡献。