第二次世界大战前夕，奥地利的萨尔茨堡一片宁静。
年轻的修女玛丽亚是个生性活泼，爱唱歌的姑娘。她常常独自跑到青青的山坡上去唱歌，往往唱得把修道院里的规矩也忘个一干二净。院长很喜欢这个年轻人，见她向往自由自在的生活，就介绍她到萨尔茨堡的冯·特拉普上校家去做家庭教师。
冯·特拉普先生是奥地利帝国的退役海军上校，他的妻子在几年前去世了。玛丽亚的学生就是七个失去母亲的孩子，他们大的已有十六岁。
玛丽亚拎着简单的行李箱，按地址找到了冯·特拉普家。这里是一座豪华的别墅，大理石的门厅、转梯、从天花板上垂下来的金色枝形吊灯，一切都令喜欢幻想的玛丽亚陷入遐想。
正当她呆呆地站着左思右想时，背后传来一个冷冷的声音：“请您注意，在这个家里，有几个房间是不允许进去的！” 玛丽亚吓了一跳，吃惊地回过头去。
那人就是冯·特拉普上校，他的个子高高的，挺拔英俊，三十多岁的样子，但神情却严肃得像个五十岁的老军官。他毫不客气地使用着一种军队的口吻说：“玛丽亚小姐，在我请的家庭教师中，你是第十二名。我希望你能比上一个好一些，她只呆了两个小时！” 只呆了两个小时？乘车来萨尔茨堡的路程也不止这些时间呀！这位上校一定非常苛刻、严厉！ 但是，玛丽亚还想问问孩子的情况。
海军上校肯定地说，“孩子完全没有错误！责任全在那些家庭教师。她们没有能力维持七个孩子中的纪律！请你记住，在这个家庭里如果没有纪律，一切都会变得乱糟糟的！” 玛丽亚简直想象不出该对七个大大小小的孩子使用什么样的“纪律”，她就问特拉普先生：“您对教育孩子有什么具体要求？” 上校说：“他们早晨该温习功课，下午该到院子里操练，晚上该严格按时上床睡觉，这几点，是起码该做到的。” 这时，玛丽亚忽然想到：安排得这么紧，孩子们什么时候游戏呢？她刚问了一句，特拉普上校就皱起眉头，突然从衣袋里拿出一支军舰上用的鸣苗，嘟嘟吹了起来。
刹那间，楼上的几个房间都打开了，七个孩子一个个踏着正步走了出来，又排成一队朝楼下奔来。
玛丽亚明白了，特拉普先生完全是按照管理军队的方法来训练他的孩子们的，他根本没考虑过孩子的游戏问题。
这时，七个孩子已经在特拉普先生面前立正站好。他们偷偷瞧了瞧新来的家庭教师，又互相使了个眼色，就根据上校鸣笛里不同的信号，一个个出列报告自己的名字。最大的姑娘叫莉沙，已经十六岁，最小的叫梅蕾特，刚满五岁。
玛丽亚觉得，这七个孩子看她的眼神，都跟看一只空空的玻璃瓶一样，就鼓起勇气，热情地自我介绍说：“我叫玛丽亚，是你们新的家庭教师，我向你们问好。” 接着，她又上前跟孩子们一一握手，但是，孩子们对她很冷淡。
吃晚饭的时间很快到了。
玛丽亚坐到餐桌边，刚向孩子问好，突然发现自己的口袋里有什么东西在动弹，她不在意地把手伸进去摸了摸，手指却触到一个湿乎乎活蹦乱跳的东西，吓得她“哇”地叫了起来。
仔细一看，竟是一只青蛙。
坐在她一旁的管家马上低声告诉她说：“您还算比较幸运的。上一个家庭教师，在她自己的兜里摸到了一条蛇！” 玛丽亚尴尬地笑了笑，正想说点什么，特拉普先生追问道：“发生了什么事？是不是谁破坏了纪律？” 这时，玛丽亚做出很轻松的样子说：“这是我跟孩子们的秘密。”她转过头去，对孩子们微笑着说：“真感谢你们，一点也不把我当外人看待，而是把我当作朋友，使我一下子就感到了温暖、幸福和愉快。” 玛丽亚的宽容和体贴，一下子使这七个失去母亲的孩子大为感动，制造恶作剧的小男孩马尔塔首先低声抽泣，接着，孩子们一个个都哭了起来。
特拉普上校很久没有见到孩子们动感情了，一时既高兴又莫名其妙。正在这时，有个叫鲁夫的年轻邮递员送来了一份电报。
特拉普上校看完电报，就对孩子们说：”电报是男爵夫人打来的……明天一早，我得去维也纳。” 孩子们都知道男爵夫人是个漂亮的寡妇，她很可能成为这个家庭的新妈妈，都纷纷议论起来。大姑娘莉沙却悄悄溜进花园，她知道，她的男朋友鲁夫把绿色邮包扔在一边，正伸长了脖子朝这边张望呢。两人碰到一起，立刻快活地唱起自己喜欢的歌曲，忘情地在亭子里跳起舞来。
这时，天空中下起了阵阵细雨。
玛丽亚在自己的房里，跟管家太太商量更新窗帘和给孩子们做新衣裳的事。管家太太说，“上校很可能就要跟男爵夫人结婚了，窗帘的事，就到那时再说吧。” 听说孩子们很快会有一个新妈妈，玛丽亚由衷地为他们感到高兴，她跪下来，真诚地祈祷，希望这位能疼爱孩子的母亲早日来到这个家庭。
窗外的雨越下越大，不一会儿，又电闪雷鸣。大姑娘莉沙在亭子里玩够了，冲过花园想进房子，但所有的门都关上了。她浑身湿透，见只有玛丽亚的窗子还开着，就不顾一切地爬上去，“扑通”一声跳到玛丽亚面前，这着实使她吃了一惊。
玛丽亚一点也没问莉沙到花园里去干什么，立刻给她寻找干衣服换上，又亲热地叫她坐到温暖的被子里一起谈心。没说上三句话，窗外又是一阵轰隆隆的雷声，顿时，暴雨倾盆而下。这时，房门一次又一次被撞开，另外六个被雷电吓得睡不着的孩子竟一个接一个跑到玛丽亚房里。他们见大姐姐莉沙也在这里，立刻都跳上床来，簇拥在玛丽亚身边，最小的格蕾特甚至把头扎在玛丽亚的怀里。
玛丽亚和孩子们紧紧依偎在一起，感到十分温暖，她对孩子们说：“别怕雷鸣电闪，也别去想那不高兴的事，应该多想想那些美好的东西。” 格蕾特不理解地问：“什么是美好的东西呢？” 玛丽亚笑了笑，她用柔美的歌声来回答说：“白色的小马，松脆的苹果饼，门铃，车铃，小牛排加面条，月亮旁天鹅的剪影……穿着白绸衣裳的小姑娘，落在鼻子和睫毛上的雪绒花，春天河里的碎冰……美好的东西数不清！” 甜美的歌声和形象的比喻，一下子使孩子们联想起自己喜欢的许多事物，他们一点也不害怕了，吵吵嚷嚷地谈起各自喜爱的东西来。
突然，门被“哐啷”一声推开了。
原来，特拉普上校被孩子们的笑声吵醒了。他不问原因，表情严肃地把孩子们一个个撵回自己的房间去。在关上门之前，他用警告的口气对玛丽亚说：“小姐，你一定要记住，在这个家里，第一要紧的是纪律！希望在我回来之前，你能做到这一点。” 玛丽亚一点也没计较上校说话的态度，她看了看窗外，雷雨已经过去了，她知道孩子们不会再害怕了。
第二天一早，冯·特拉普上校到维也纳去看男爵夫人了。玛丽亚一看见孩子们的笑脸，立刻就忘掉了上校那刻板乏味的规定，她把旧的绿呢窗帘取下来，给他们每人缝了一件式样新颖的衣服，让他们穿着高高兴兴地出去郊游。
玛丽亚带着孩子们穿过树林，涉过溪流，他们一起捉迷藏，一起采摘野果和花草，玩累了，就躺在草地上休息。
对着蓝天白云，玛丽亚问孩子们：“男爵夫人快要来了，你门准备为她唱支什么歌呢？” 孩子几乎异口同声地说：“爸爸不喜欢我们唱歌！” 玛丽亚点点头，她明白，上校是因为失去妻子后心情抑郁，才不喜欢别人在他面前唱歌的，作为一个奥地利军官，岂有真的不喜欢音乐的道理！她笑着对孩子们说：“我们可以改变他的想法。告诉我，你们会唱些什么歌？” 但是，孩子们又齐声回答说：“什么歌也不会！” 玛丽亚听了，只是笑笑，大声说：“不会不要紧，我可以教你们，先从哚来咪教起。” 接着，玛丽亚随口把七个音符编成歌，柔美地唱了起来：“哚，一只母鹿；来，阳光照下来；咪，就是我自己；发，向遥远的地方出发；索，快得像穿梭；拉，大家把你拉；梯，上面有果酱面包和茶等着你，接着，又遇见了哚和母鹿！” 玛丽亚形象的比喻，把“哚来咪发索拉梯”七个音符生动地结合起来，引起了孩子们很大的兴趣，他们又唱又笑，在欢乐的气氛中不知不觉地上了一堂又一堂音乐课。
几天过去了，七个孩子迷上了音乐课，再也离不开带给他们幸福和欢笑的新家庭教师了。
这一天，在通往萨尔茨堡的路上，冯·特拉普上校亲自开着白色轿车，带着美丽、娇贵的男爵夫人，有说有笑地往家赶。他希望，在正式讨论婚姻前，男爵夫人能熟悉他的七个孩子，孩子们也能喜欢这位未来的新妈妈。
突然，他们在汽车里看见，这里有群穿着绿色衣服的孩子在树林里爬上爬下，又唱又闹，简直像是来了一群猴子。特拉普上校觉得有点像自己的孩子，但转念一想，孩子们不会唱歌，又有家庭教师管着，他们不会如此放肆的。
但是，当他和男爵夫人到达目的地不久，就发现玛丽亚带着七个孩子，乘坐着小舢板回到花园后的湖边码头。不知是哪个顽皮的男孩故意一摇晃，全船八个人统统跌到水里，但他们都开心地笑着爬上岸，浑身上下都湿漉漉的。
上校简直不敢相信自己的眼睛，他迅速掏出鸣笛，“嘟嘟嘟”地吹了起来。这时，孩子们才真的乱了套，七碰八撞地排起队来。
上校皱着眉头，在孩子们面前踱着步子，向男爵夫人一一介绍他们，最后，他忍不住问玛丽亚：“我在路上看见一群孩子像猴子似的爬树！我想知道……今天我的孩子有没有在外面爬树？” 玛丽亚点点头，诚实地说：“爬过的。” 上校又指着孩子们身上的绿色外衣问：“这些是什么东西？” 玛丽亚不慌不忙地说：“是我给他们做的衣服！”特拉普上校吃惊得一时说不出话来。
玛丽亚见他满脸困惑，就说：“孩子们不是光用鸣笛就能管理的士兵，他们需要了解和关心，更需要爱。” 上校觉得，这个家庭教师管得离她的职责范围太远了，就打断了她的话：“孩子是我的孩子，我不想再听你说下去！” 但是，玛丽亚觉得自己刚说到点子上，就恳求道：“我还没有说完……” 可是，冯·特拉普上校已经被一连串的不称心事弄得不耐烦了。他板着脸说：“你说完了！玛丽亚小姐，我命令你，马上去收拾东西，回你的修道院去！” 但是，他的话音刚落，四周响起了孩子们的歌声： 群山洋溢着音乐之声，群山有唱不完的歌吟……我的心像鸟儿从湖上飞向树林，我的心像小天使飘向黎明…… “谁在唱这使人怀念的歌？”听着孩子们熟悉的声音，上校简直不敢相信自己的耳朵。
玛丽亚轻轻地说：“是你的七个孩子在唱，他们把这首歌献给你和男爵夫人。”这时，又一阵轻柔的歌声传过来，像春雨滋润了特拉普上校寂寞、忧伤的心，他也情不自禁跟着唱了起来：“每当我的心感到寂寞，我要到山里去，我又会听到遥远的歌声……” 一曲终了，冯·特拉普的心被深深打动了，他把孩子们一个个拥到胸前，过去的岁月和青春的记忆，似乎一下子又回到了他的身边。这时，他才明白，修女玛丽亚是个多么出色的教师，他愧疚地握住她的手，说：“小姐，刚才……我错怪你了，我向你道歉。” 玛丽亚的脸红了。她说：“也怪我心直口快，假如我做的对孩子们有所帮助……” 没等她说完，特拉普上校感激地打断了她的话，说：“您对我帮助太大了，简直无法形容！” 晚饭以后，玛丽亚又和孩子们一起为上校和男爵夫人表演了他们排练的木偶剧《孤独的牧羊人》。每个孩子都操纵着他们的木偶，说说唱唱，表演得精彩极了。特拉普上校一次又一次地鼓掌，男爵夫人也对表演大加称赞。
孩子们高兴得团团围住爸爸，非要他当场唱一支歌不可。
上校看到孩子们十分兴奋，他也感动极了，仿佛一下子回到童年，满怀激情地唱了一支《雪绒花》。雪绒花像一张张孩子的脸，在他的眼前闪现，他激动得流出了眼泪。
欢乐的笑声又开始在这个冷清了多年的别墅里出现了，孩子们热情地围着玛丽亚，久久不肯离开。男爵夫人猛然发现，特拉普上校看家庭教师的目光也起了微妙的变化。
不久，在一次舞会上，人们都议论起德国要和奥地利合并的消息。特拉普上校说：“什么合并？这是纳粹侵占、吞并奥地利，他们的野心很大，只会给奥地利人带来灾难！”纳粹安插在当地的一名坐探泽勒对上校说：“像您这样有威望的人，说话别这么随便。他们要叫你担任要职……至少，要请你用雄厚的男中音，唱他们谱的曲子。” 上校反唇相讥：“当纳粹占领奥地利之后，吹吹打打的事当然该由你泽勒先生担任了！” 就在泽勒向特拉普上校发出纳粹攻势的同时，男爵夫人正在跟玛丽亚进行另一场谈话。她说：“上校好像对你有意思。那天晚上，你穿着漂亮的绿衣服，他直盯着你看。” 单纯的玛丽亚慌张地说：“这没什么……” 男爵夫人又紧逼一句：“他请你跳舞时，你的脸红了。孩子，你可别认真，上校很快会冷下来的，男人都这样。” 玛丽亚终于明白了男爵夫人的用意：她出于妒忌，不希望自己留在孩子身边！她冲动起来，告诫自己说：“这里不能呆了，走！” 当夜，玛丽亚收拾起简单的行李，留了一张便条，就不辞而别，回到了修道院。但是，她的心情是不平静的，她怀念孩子们，也很想念坦率、正直的特拉普上校。男爵夫人以为，玛丽亚一走，孩子们会转而向着她。但是，当孩子们一早发现他们的家庭教师不辞而别，就像失去了最亲的亲人，一个个没精打采，甚至向这位“未来的新妈妈”发火，男爵夫人想用恃拉普上校的鸣笛来训练孩子们，谁知，从最大的孩子到最小的孩子，谁也不理她。最后，她只得向特拉普上校说：“把这几个小家伙都……送到寄宿学校去吧……” 特拉普上校冷冷地看了她一眼，说“这么多年，我从没想过把孩子送到缺乏温情的寄宿学校去。” 当天，孩子们集体失踪了。
他们不能失去玛丽亚！大孩子背着小孩子，七个人一起来到修道院，要求见见修女玛丽亚。但是，玛丽亚却不敢离开自己的房间！她内心十分喜欢他们，但又不知道怎么办。
院长嬷嬷知道玛丽亚心中的矛盾，对她说：“你要按照自己的意愿去生活，跟着天上的彩虹，去寻找自己的梦想，把今生今世的爱，都注入这个梦中。” 听了这番启发和鼓励，玛丽亚的眼睛变得明亮了。
七个孩子失望地回到萨尔茨堡，他们完全没去想早已过了吃饭的时间，特拉普上校一肚子无名火，逼着他们要说出到哪里去的。孩子们你看看我，我望望你，谁也不愿说出心中共同的秘密。
正在这时，客厅的门开了，玛丽亚竟拎着行李箱出现在大家面前。眨眼间，孩子们不顾一切奔过去，争先恐后地抱住了她。
顿时，特拉普上校一切都明白了，他甚至明白了自己心中无名火的来由，他跑上去，温柔地说：“你走的时候……也没说声再见。” 玛丽亚的脸上泛起红晕，真诚地向上校和男爵夫人祝福。但是，上校做了一个否定的姿势，这时，男爵夫人明白了，上校的心里只有玛丽亚了。
不久，玛丽亚成了特拉普上校的妻子，七个孩子兴高采。烈地唱着歌，
簇拥在这个新的母亲周围。
正在这时，纳粹德国的军队占领了奥地利，那个肥头大耳的纳粹坐探泽勒摇身一变，成了侦缉队长，逢人就举手喊：“嗨，希特勒！” 莉沙的男朋友鲁夫也盲目地加入了冲锋队，成了法西斯的爪牙，成天跟着泽勒耀武扬威。
这一天，特拉普上校怒气冲冲回到家，一把撕去了被人逼着挂上去的纳粹国旗。玛丽亚关心地走上前，轻声问：“外面出了什么事？” 特拉普用拳头捶了一下桌子，说：“柏林命令我参加他们的海军，明天一早就得到不来梅基地去报到！” 玛丽亚早就担心会出这种事，但没想到会来得这么快。特拉普上校说：“要是我拒绝，纳粹会向我们全家下毒手！……快把孩子们找来，我们得利用今晚歌唱比赛的机会逃出奥地利！” 法西斯警察已经严密监视住萨尔茨堡，但是，他们却没法阻止这一家人参加当地隆重的歌咏比赛。玛丽亚让孩子们穿得暖暖的，全家乘车去参加音乐会。
纳粹的汽车紧跟着他们，也来到音乐会上。侦缉队长泽勒将孩子们一个个打量过来，满腹狐疑地问：“你们怎么穿着厚厚的旅行服？” 玛丽亚微笑着说：“夜里气温低，我怕孩子们的嗓子哑了，才让他们穿这么厚的演出服的。” 侦缉队长看不出破绽，只得说：“好吧，我同意了，你们全家都上去唱，这样可以显示，与德国合并后的奥地利一切正常，等你们演唱完，我们就要把上校送到不来梅海军基地去！” 上校和玛丽亚没有被吓倒，他们带着七个孩子，站在台上，唱起了那曲热情奔放的《哚来咪》，一下子把生性爱好音乐的听众们的热情都调动起来了。
在一阵又一阵的掌声中，孩子们一个又一个按顺序陆续退场，悄悄上了外面的汽车。特拉普上校一次又一次对观众的掌声鞠躬致谢，最后，他走到麦克风前说：“奥地利的同胞们，也许要很久见不到你们了，现在，我再为你们唱一支古老的奥地利民歌！” 他两眼湿润，深沉而动情地唱起了《雪绒花》：“雪绒花，开不败，就像一张张笑脸，点缀着祖国美丽的河山……” 全场的奥地利听众热烈鼓掌，他们都像特拉普一样，有一颗热爱自由、和平的心，他们也将为此而不屈不挠地斗争。
紧接着，热烈的授奖仪式开始了。
主持人先报了第三等奖的获奖者名单，并请获奖者上台领奖。在热烈的掌声中，第二等奖的获得者也满脸春风地上台领了奖。
最后，主持人激动地大声宣布：“一等奖，全奥地利的最高荣誉，授予冯·特拉普上校的家庭合唱队！” 掌声更热烈地响起来了，聚光灯一次次照向舞台人口处，祝贺曲一次又一次奏响，但是，上校家的任何人也没有出现。
这时，纳粹分子猛然省悟：上校一家逃走了！泽勒立刻通知封锁国境线，带上鲁夫和冲锋队员，在全城搜查。
原来，在修道院院长的帮助下，特拉普上校一家人都躲到古代贵族的石碑林后面。石碑虽然很高大，一块接着一块， 但几个幼小的孩子们仍很害怕，
甚至想用唱歌来镇静自己。玛丽亚紧紧搂住最小的格蕾特，嘱咐她千万别出声。
但是，这细小的声音仍引起了鲁夫的注意，他让纳粹队员们先走一步，自己却悄悄埋伏在石碑林的铁栅外面。
不一会儿，上校和玛丽亚带着孩子从石碑后走了出来。不料，鲁夫从黑暗里跳了出来，用枪指着特拉普说：“上校，你的游戏结束了！” 上校非常镇静，他让玛丽亚和孩子们一个个从自己身后走出去。莉沙也央求这位昔日的男朋友说：“鲁夫，我父亲不愿为希待勒卖命，你放了他吧。” 鲁夫不敢正视莉沙，更不敢正视上校严肃的眼睛，他紧张地说：“你再往前走，我……就要开枪了！” 上校慢慢靠近鲁夫，规劝他说：“你不是那种人，你还是个孩子，跟我们走吧。” 鲁夫步步后退，紧张地叫道：“不许再过来！” 但是，上校已抓住了他的枪，坚定地说：“把枪给我，跟我们一起走！” 鲁夫浑身颤抖，突然转身边跑边喊：“中尉！中尉！他们躲在这儿！” 正在这千钓一发之际，两个年长的修女跑来了。她们在这之前曾拣到一技枪。一位修女用这枝枪瞄准了鲁夫的背影，一枪打死了这个可耻的叛徒。
上校、玛丽亚和七个孩子冲破黑暗，登上了白雪皑皑的阿尔卑斯山，奔向自由和平的地方。一切都像他们唱的那样，他们将跋山涉水，随着天上的彩虹寻到自己的梦想。
