在1917年元月就任北大校长时，年已半百的蔡元培在政坛和学界的地位早已奠定。此后在北京大学的短短六年，是他壮阔一生中最为辉煌、最具历史意义的一段历程。时至今日，他之所以一直被人们以崇敬之心、景仰之情反复纪念、思念、怀念、探讨、研究，盖因“北大校长”矣。在蔡氏之前之后就任北大校长者并不乏人，而唯独他享此尊荣，足见并非“北大校长”使其有此崇高历史地位，而是他“校长”北大而使中国教育、文化进入新境界。
1916年夏，袁世凯复辟帝制失败，暴毙而亡，中国开始陷入军阀混战。各路军阀忙于你争我夺，无人关注教育，客观上却为教育提供了一个相对自由、自主的空间。1916年末，蔡元培在友人的力邀下回国，于1917年元月就任北京大学校长。
北京大学的前身是1898年成立的京师大学堂，所收学生都是京官，被称为老爷，多数学生都雇有当差，是为了做官而求学。而学堂的监督和教员则称为中堂或大人，多为官僚。由于学生是为今后做官而来，所以教员受欢迎的程度不是其学问的高低而是其官阶的高低。1912年民国成立，出任教育总长的蔡元培便想将“衙门”化的京师大学堂改造为真正的大学，将学校改名为北京大学校，总督改为校长；各科监督改为各科学长等等。但由于他不久即辞职而去，未能实现改造北大的计划。到1917年他重返北大时，发现并无根本性变化，他曾谈起当时北大学生“仍报科举时代思想，以大学为取得官吏资格之机关”，北大仍是旧式“衙门”。
1917年1月9日，北京大学举行新学期开学典礼，在校长就职演说中，提出“大学者，研究高深学问者也。外人每指摘本校之腐败，以求学于此者，皆有做官发财思想”。“所以诸君须抱定宗旨，为求学而来”。他要求学生抱定研究学问的宗旨，注重道德修养，敬爱师友。以后他多次强调“大学为纯粹研究学问之机关”，不是做官的场所。在给吴稚晖的信中谈到改变北大校风的计划，首先“在延聘纯粹之学问家，一面教授，一面与学生共同研究，以改造大学为纯粹研究学问之机关”。
是“纯粹之学问家”受重视还是由官僚政客或所谓“学官”主导，这对任何大学都是至关重要的问题。而强调大学是“纯粹研究学问之机关”而不是“衙门”，确实抓住了问题的根本。
任何机构都是一种组织，都要有制度管理、有管理者，大学自不例外。但把大学作为“纯粹研究学问之机关”与将其作为“衙门”的管理方式则大不一样。
在蔡元培之前的北大实际是一个“衙门”，一切都是校长说了算，所有校务只有校长与学监主任、庶务主任等极少数人参与决定，连各科学长都不得与闻，一般教授、讲师更无缘置喙。在德、法游学多年，深受“教授制校”现代大学制度影响的蔡元培认为北大这种“组织形式形同专制政府；随着民主精神的高涨，它必然要被改革掉。”他决心改变这种“衙门”式管理体制，代之以民主的现代学术机构的管理体制。
1917年他到北大不久，就设立评议会作为全校最高立法和权力机构。负责学校各种章程、法规和制定，同时各学科的废立、各门课程的多少及改革、学校的财政安排、聘请新教授等事项均须经评议会严格的审核通过。评议会的评议员全部是教授，校长与各科学长为当然评议员，各科评议员由本预科各选两名教授作代表，任期一年。文科学长陈独秀，文本科教授胡适、章士钊，文预科教授沈尹默、周思敬等都曾担任过评议会评议员。1917年底，他主持召开评议会会议，决定设立各学科教授会，教授会会员由各科教授和讲师组成，教授会主任由会员推举。1918年，共成立了国文、英文、数学、物理、化学、法律、政治、哲学、经济、法文、德文等共十一个学科教授会。1919年北大采用分系制后，学科教授会改由各系成立教授会，系主任由本系教授会会员投票选举产生。在学校行政管理方面，蔡元培也采取一系列措施保证教授参与管理。1919年底，在评议会下另设立三个机构：一是行政会议，作为全校最高行政机构和执行机关，负责实施评议会的各项决议，成员必须是教授，由各专门委员会的委员长及教务长、总务长组成，校长兼行政会议议长。二是设立教务会议及教务处，由各系学科主任组成，从中推选教务主任，统一领导全校教学工作。三是设立总务处，设总务长一人，主管全校人事与杂务，总务长也由教授担任。
这一系列的改革措施，扩大、巩固了教授治校的范围。
蔡元培在北大实行教授治校，开启了中国教育史上前所未有的深刻革命。教授治校使教授在大学的决策与管理中起决定性的或主导的作用，减少行政对学术的干扰，学校的行政机构确实起服务与辅助作用，而不是外行领导内行，行政部门“喧宾夺主”或“反客为主”，业务部门反过来为行政部门服务。而且，教授治校是基层民主政治的一种拓展。蔡元培在北大的改革说明，民主政治完全可以“基层”首先实行，而这种“基层民主”的渐次展开恰恰是民主政治的重要基础。教授治校是大学具有相对独立性的重要保证，使大学最大限度地避免政府和政治斗争的干扰。在不民主的社会中营造出一个相对独立的、民主的“小共同体”。他曾这样评说给他影响至深的德国大学制度：“德国革命以前是很专制的，但是他的大学是极端的平民主义；他和校长与各科学长，都是每年更迭一次，由教授会公举的；他的校长，由四科教授迭任”。他营造的北京大学，即是这种生存于专制社会中的一个民主孤岛。
对以探索、传承知识为天职的大学来说，这种民主格外重要。在对知识的追寻是对未知世界的探险，必然充满种种失误、错误，只有这个学术共体中的每个人都能独立、平等地发言、批评、被批评，彼此能畅所欲言地交流、商榷，不同学术观点百家争鸣才有获得知识的可能。现代思想家波拉尼（Michael Polanyi）认为，这种共同体应该形成的是“普遍权威”（General Authority）而不是“特定权威”（Specific Authority）。所谓“普遍权威”是指每个人都有独立的知识、规则的“诠释权”，这种权威是共同体中每个人都自由、充分表达各自观点后相溶而成的一种普遍意见，其权威是在民主制度下自下而上自然而然形成的。相反，“特定权威”则是规定只有高高在上的“中心”、“总部”才有知识、规则的“诠释权”，一切重要的诠释和变革创新都由这个“特定权威”发布命令、发出宣告，而成员只能服从其决定，其权威是由上面指派的。波拉尼进一步指出，这两个完全不同的权威观念，一个要求大家自由，另一个要求大家服从。两相比较，“普遍权威观”更有利于科学、知识、学术的发展进步。“在科学上面设立一个明定的权威类型，对科学极具毁灭作用，由科学意见以正常方式来运用的‘普遍权威’则为科学之继续存在所不可或缺。”
蔡元培的这一系列改革，使“思想自由，兼容并包”治校方针的实施获得制度性保障。
“思想自由，兼容并包”的具体落实，是从北大文科整顿开始的。
他在《〈北京大学月刊〉发刊词》中申明：“大学者，‘囊括大典，网罗众家’之学府也。《礼记》《中庸》曰”‘万物并育而不相害；首并行而不相悖。’足以形容之。”“各国大学，哲学之唯心论与唯物论，文学、美术之理想派与写实派，计学之干涉论与放任论，伦理学之动机论与功利论，宇宙论之乐天观与厌世观，常樊然并峙于其中，此思想自由之通则，而大学之所以为大也。”但他深知“吾国承数千年学术专制之积习，常好以见闻所及，持一孔之论”，提倡思想、学术自由至为不易。
北大文科一直为桐城派古文家把持，守旧派居统治地位，新思想、新观点不为所容。而“思想自由”、“兼容并包”是蔡元培的办学方针，为打破守旧派的“一统天下”，使北大学术、思想多元化，所以他着重聘请具有新思想、新观点的学者到北大任教。在短短时间内，就聘请了陈独秀、胡适、李大钊、钱玄同、刘半农、周作人等新思潮的代表人物（1920年鲁迅也来到北大）。为了表示“礼聘”之诚，他聘请陈独秀为文科学长，并允许其将非学术性的思想性刊物《新青年》带到北大出版。新文化先锋迅速云集北大，“文学革命，思想自由的风气，遂大流行”，使北大成为新文化运动的摇篮。
蔡氏支持新学派但并不压制坚守传统的旧学派，因此北大同时还有政治或学术观点属于旧派的学者如仍拖长辫的辜鸿铭，拥护袁世凯称帝、“筹安会”发起人之一的刘师培，以及黄侃、崔适、陈汉章等。当年仅24岁且无学历的梁漱冥在佛学研究方面才华初露时，蔡元培立即破格将其延来北大任教，丝毫未考虑他的学术、政治观点的“新”与“旧”。
如果说蔡元培对“新”派表示了更多的支持的话，则因此前是“旧”派主导，“新”声备受压抑。新旧兼容，使他往往不被双方理解。他的这种办学方针首先遭到旧派学者的激烈指责，对此，他作了公开回答，提出了著名的两点主张：“（一）对于学说，仿世界各大学通例，循‘思想自由’原则，取兼容并包主义”；“（二）对于教员，以学诣为主。在校讲授，以无背于第一种之主张为界限。其在校外之言动，悉听自由，本校从不过问，亦不能代负责任……夫人才至为难得，若求全责备，则学校殆难成立。且公私之间，自有天然界限。”当激进的青年学生猛烈攻击旧派学者辜鸿铭、刘师培，并对蔡元培仍聘用他们表示不解时，他则开导劝说，希望他们学习辜先生的英文和刘先生的国学，并不要他们也去拥护复辟或君主立宪。将教师的政治观点与学术水平分离，学校只问其学术水平而不干涉其政治观点这种将“公”“私”区分，“互不干涉”的划分标准，无疑能广罗人才。
中国向有将不同思想观点诬之为“异端邪说”而不容其存在、强调思想“大一统”的传统，蔡氏这种容纳各派、包括自己并不赞同的思想派别，真正鼓励百家争鸣的做法，确开一代新风。其实，这也是办好大学的基本条件。但在中国语境中，要做到这一点委实不易，权力总想介入学术；亦总有人不敢或无力进行学术争鸣，因而乞求权力介入学术。随着新旧文化争论越来越激烈，政府开始介入，支持强调传统的守旧派。一些议员向教育总长傅增湘示意，如果不撤去蔡的校之职并将陈独秀、胡适、钱玄同等逐出北大便要弹劾傅增湘。1919年3、4月间，总统徐世昌几次召见傅增湘、蔡元培等，对蔡施压。傅还在徐世昌指令下致信蔡元培，要求加对提倡新思潮的北大师生严加管束，并点名严责北大学生创办的《新潮》杂志。对此蔡元培复信反驳，并为新思潮提倡者辩护说：“敝校一部分学生所组之《新潮》出版以后，又有《国故》之发行，新旧共张，无所缺畸。在学生则随其好尚，各尊所闻；当事之员亦甚愿百虑殊途，不拘一格以容纳之。”并再次强调：“大学兼容并包之旨，实为国学发展之资。正赖大德如公，为之消弭局外失实之言。”教育总长傅增湘虽有总统支持，对蔡却无可奈何。这种为维护思想、学术自由不畏强权的凛然风骨，确令人钦佩。
学生是学校的主体，蔡元培通过鼓励学生成立各种社团、出版自己的刊物而使学生真正成为主体。在他的鼓励、支持下，北京大学的各种学生社团如雨后春笋，层出不穷。学生创办的刊物林林种种，蔡元培还批准专门经费、并决定由学校负责印刷发行，给以切实的支持，其中最著名的《新潮》在五四新文化运动中起了重要作用。现代中国学界和政坛上一大批风云人物，即从北大学生社团和杂志开始登上历史舞台。而且，现代社会最重要的一点就是现代民间社会的产生，这种公民的“自组织”是民主、开放社会最重要的基础。
1919年5月4日“五四运动”爆发，北大师生冲在运动前列，蔡元培必然卷到政治旋涡的中心。对学生参与政治，他的观点并非简单支持或反对。他认为学生应有社会责任感，有权也应该过问国家大事。同时，他又强调学生毕竟要以学习为主，对政治不必过于热衷，特别是一些具体社会问题的解决，更有赖于学有专长的专家，而非激情可以解决。对“五四”当天北大学生的游行，有关记述、回忆与研究不尽相同。一种说法是他支持学生游行，另一种说法是他出于爱护学生的目的，曾对学生进行劝阻。但有一点却十分肯定，无论他对学生游行态度如何，当学生被当局抓捕后，他即全力以赴营救学生。他多次公开表示自己一定负责营救学生，为了保出学生“愿以一人抵罪”，并与其他一些大学的校长在北大开会，成立了以他为首的校长团，向警厅、教育部直至总统府请愿。经过与警厅和教育部的反复交涉，被捕学生终于在5月7日上午全部释放。不论蔡元培及其他一些大学校长们对学生的行动、支持与否、对学生的政治观点赞成与否，一旦学生因政治原因被捕则顶着种种压力积极营救，显示了对学生的深切关爱，也为所有的教育工作者作出应有的职业道德楷模�
然而，这一传统却在几十年后戛然中断，在从反右到后来的许多次运动中，直到那个著名的“风波”，校方总是积极配合……而不是想方设法保护学生。
由于北京大学是新文化运动和五四运动的策源地，专制的军阀政府认为蔡元培应负主要责任，在5月8日决定撤免他的职务。由于被捕学生已被释放，为了表示对黑暗政府的抗议，了为了避免学生因此再次走上街头，蔡元培当即提出辞呈，于9日晨悄然离京南下。消息传来，举国哗然，学生怒火即将在次爆发，在强大社会压力下，经过反复斗争，政府不得不被迫让步。1919年9月中旬，离开北大数月后，蔡元培终于重返北大。
中国传统女性并无受教育的权力，更不可能享受到在中国仍属“新生事物”的高等教育的权力。对女性的不公待遇，蔡元培一直深深同情，从他投身教育事业起就为女性争取与男性平等的受教育权力努力。当上北大校长后，他一直想法设法冲破重重阻力，开放“女禁”。“五四”风潮过后他重回北大后，借新文化运动“风气大变”的气势，将此付诸实施。他很清楚，禁止女生上大学是“不成文法”，便巧妙地钻此空子，公开声明“大学本来没有女禁”，“我国教育部门所定的大学规程，并没有专收男生的规定”，希望女生报考。由于当年报考时间已过，经审查资格后，于1920年春允许9位女生傍听。从1920年春起，北大就正式招收女生，开我国女性上大学之先河。北大开放女禁引起当时掌控北京政府的军阀们的愤怒，甚至扬言要对蔡采取强硬措施。但大学开放女禁已是潮流，闸门一开，任何人都无法遏止。
重返北大的蔡元培本想从从容容将自己的教育理念一点点付诸实施，但近代中国政治风云变幻莫测，蔡元培亦不能不一次次身卷其中。时代，未给他从容实现自己抱负的机会。他曾与胡适等人一起出面呼吁成立“好人政府”，希望以此改变政治的黑暗。军阀政府为了收买人心，似乎响应他们号召，成立了所谓“好人内阁”，蔡元培对此一度抱有一分希望。然而1923年11月，军阀政府终于暴露出本来面目，制造冤案，搞垮“好人内阁”。蔡元培在失望和震惊中于1924年元月提出辞职，并于1月19日在各报刊上刊登“自本日起不再到校办事”的启事，于1月23日离京抵津，最终离开了北京大学。
“校长”北大是蔡元培一生最辉煌的一段，之所以辉煌，就在于他在中国播下了“思想自由，兼容并包”的火种。但他深知，“思想自由，兼容并包”的前提是“教育独立”，在北大的短短几年，他排除重重困难践行“教育独立”的理念。1922年3月，他在《教育独立议》一文中写道：“教育是帮助被教育的人，给他发展自己的能力，完成他的人格，于人类文化上能尽一分子的责任；不是把被教育的人，造成一种特别器具，给抱有他种目的的人云应用的。所以，教育事业当完全交与教育家，保有独立的资格，毫不受各派政党或各派教会的影响。”此时他在北大校长任上已经五年，备尝艰辛，深知其中甘苦。如果说以前他关于教育独立的言论更多地来源于一种观念和理想，此时所写的这段话，则已是饱含风霜的经验之谈，弥足珍视。
