1929年，常宝霆出生于天津，自幼随父学艺，9岁登台，11岁在北京启明茶社“相声大会”演出。12岁拜郭荣启为师。
常宝霆14岁正式与白全福结为搭档，两人共同合作40余年。一起创作和表演的主要节目有：《听广播》《挖宝》等。
二十世纪三、四十年代，常宝霆为了锻炼自己，在父兄的指导下苦练“嘴皮子上”的功夫，对一些需要大段独白的贯口相声尤下功力，如《报菜名》《地理图》等。辛勤的苦练，日常的实践，使得常宝霆的相声表演有了很大提高，并为他日后相声表演中干脆、明快的特点打下了基础。
1951年，常宝霆应邀至天津工作并定居，参加了“虹风曲艺社”。
1956年，常宝霆参加赴朝慰问演出。
1958年，常宝霆赴福建前线慰问，在战壕里为战士们演出。从这一年开始，他尝试自己创作相声，他的作品《儿童乐园》《还乡记》在天津日报发表。
二十世纪六、七十年代，他多次深入工厂、农村、部队体验生活，创作并演出了《我爱乒乓球》《水车问题》、《挖宝》（与人合作）等作品。
二十世纪八十年代，他又重新整理并演出了一些新段子，如《道德法庭》《诸葛亮遇险》等，这些节目源于生活，现实意义很强，深得广大观众喜爱。
1992年，常宝霆从天津市曲艺团调入天津市表演艺术咨询委员会工作，专门从事对传统艺术的整理、挖掘和对年轻演员的传、帮、带工作。
1993年，白全福去世，常宝霆从此不再上台表演，而是从事相声资料的整理工作，整理了《打砂锅》《大审案》《洋药方》等传统段子。
常宝堃与常宝霆
常宝霆说，“常氏相声”的特色“主要是注重表演、刻画人物、动作舒展。而且，在传统相声中融入现代的东西，社会在发展，要随之进步，好好运用，没有什么是一成不变的。”
2015年1月4日20:10分，常宝霆在天津逝世，享年85岁。
常宝霆的相声特色，很多人评价是“帅气”。老师的相声‘帅’，这不仅是说老师个人的外表，他气质很潇洒、漂亮，仪态很好，更应该是他的表演上的‘帅’，因为他的艺术的核心就是‘新’，追求一种常新的状态。他敢于突破原来的表演模式，许多作品经他努力后，和以往都不同了，跟现实更加贴近。比如他的相声作品《听广播》，在60年代大红大紫。这个作品是带着乐队在幕后弹唱的，在表演中还吸收了南方的滑稽剧等姊妹艺术。从内容到形式都很新颖。另外，老师演过戏，上过电影和话剧舞台，他在相声舞台上也擅长表演‘戏’。他一哼一哈，一举手一投足，围绕着整个作品的情绪，十分出彩。老师是一个很谦逊的人，从不说过去自己风采如何。他总是这样说，说自己做得不够，很不好，没啥好说的。常宝霆对自己要求很严格，说到就做到。当他的学生，可以明显地感受得到常老“正人先正己，身教胜于言教”的人生态度。（徒弟王佩元评）
