一九四九年秋，开国大典的礼炮声中，北京城里一片欢腾，清查间谍的作业也在严重地进行。土刀唐胡同里，刚刚接管了旧警察局的年轻派出所所长肖大力正忙着维持群众游行的次序，偶遇一个熟知武器的教书匠冯静波，这引起了他的置疑。为了查清冯静波的身份，肖大力搬进了土刀胡同十五号院，与冯静波做了街坊。冯的实在身份的确是国民党的埋伏间谍，代号5182。恶霸四阎王为他发了委任状，接受白眼镜的命令。深夜，白眼镜前来交待使命，冯的间谍生涯从此拉开了前奏。白眼镜为冯送电台时被肖大力等人击成重伤，临死前只说出5182几个字。肖大力以为冯有重大嫌疑，让他注意四阎王的行迹，借此对冯旁敲侧击。曾在倡寮做使唤丫头的大眉子参加了夜校扫盲班，她倾慕冯教师的才调，常自动为他做家务。冯为了掩护自己的身份，请大力保媒娶大眉子为妻。大力找大眉子谈心，拐弯抹角说冯是间谍，可大眉子自觉身世下贱，婚事全凭大力做主。　　肖大力偶然听到从冯家传出用作联络暗号的乐曲，便也买了一台短波收音机，煞费苦心地进行研究，吃饭睡觉都不忘揣摩那首名为《展览会上的图画》的曲子，在我们眼里他似乎是着了魔。冯从大力的妻子刘亚琴那里传闻此事，不禁暗暗心惊，深知自己境况困难，只得泰然自若地应付这一切。他假称挖出一夜壶金子，将活动经费充了公，被评为抗美援朝积极分子。才高八斗的冯静波邂逅了校长的女儿徐小妤，两人一见如故。小妤仰慕冯的才调，冯也倾心于美丽又有常识的小妤。二人荡舟湖上，面临小妤炽热的目光，冯在欢乐之余也深感痛苦，心情沉痛地说自己是负罪之人，准备自首，但在大力面前却半吐半吞。晚上，冯忽然不见了踪迹，大力严重地以为他是畏罪潜逃。敏感的亚琴直奔小妤的宿舍，正好遇见这对偷情的恋人。东窗事发，冯家乱成一团。大眉子不依不饶，要跟那个破坏她家庭的女人撞头。冯终于鼓起勇气提出和她离婚，不料受到大力等人的责备与阻挠。校长更以开除作要挟，不许他离婚。气愤的大力把冯反锁在厕所里，让他好好检讨历史问题。静波与小妤迫于压力，只得黯然分手。　　冯静波在学校从未有过激言行，是个人人称誉的好教师，大力挑不出他的毛病，无可奈何。街道安排我们学习宪法，请冯为世人解说。冯对镇压反革命的条文心有余悸。间谍身份的重压使冯隐忍地生活着，这竟使他在历次运动中躲过了劫难，并且由于他为人和善，处处助人，竟被评为区劳模。而深信冯是间谍的肖大力却被诬以间谍的罪名送进了劳改农场，亚琴自杀身亡。大眉子意外地发现冯的委任状，偷偷地烧掉了。　　四十年过去了，肖大力重又穿上了警服，他依旧执迷不悔地监视着冯的一举一动。此刻的冯已由一位好教师变成好校长，他的确感到坦荡做人的快感，一起也更感到自己心底那块石头的沉重。肖大力的儿子新桅和冯静波的女儿抗美青梅竹马，却因父辈的恩怨无法走到一起。昔日给冯发委任状的四阎王已成了海外合作项目的投资者，这令冯惊讶不解。肖大力的铮铮铁骨令冯自暴自弃，也正是肖大力的所作所为，让冯了解了共产党。冯终于幡然悔悟，给大力写了自首信，请他宽恕昨天的敌人，并在女儿的搀扶下走进了公安部的大门。