以音乐比喻社会，大概没有什么说法比“八音克谐”更古老，却又更现成的了。《尚书.舜典》上说，“八音克谐，无相夺伦，神人以和。”“八音”是指八类乐器， 金、石、土、革、丝、木、匏、竹，不是指音阶。音阶称为“七音”，即宫、商、角、徵、羽五声外，又加变宫、变徵二声，合为七声。“合”是“达到”、“成就”的意思，而“谐”则是一种“和”的境界。孔子说，人而不仁，如礼何。人而不仁，如乐何。包咸注：“言人而不仁，必不能行礼乐。”《礼记儒行篇》说，“礼节者仁之貌也，歌乐者仁之和也。” “谐和”或 “和谐”于是成为一种人与人关系的音乐比喻。人与人之间合乎道德(即“仁”的)关系就是礼，礼讲谦让敬人，乐须八音克谐。尽管古代社会和现代社会天渊有别，但人和人之间仍须以道德伦理维系，社会仍然要讲和谐，所以“和谐”的说法虽然古老，但仍有活力。
用“和谐”形容或者比喻人际关系，是在使用一种古老的语言。古老的语言，它的好处是现成，人们似乎一听就耳熟能详。但这也是它的短处所在。正因为一种说法太现成，太易懂，它也就缺乏特定的语义内涵， 古人的语言有简朴、形象的特征，现代人则会要求精准达意。例如，古人常以身体长度为度量单位，如“步”、“肘”。现代人就要问一问，“一步”到底是多长。周代以八尺为步，秦代以六尺为步，旧制以营造尺五尺为步，所以“一步”究竟有多长呢？就算同一时代使用同一形象语言，也有语义含混的问题。以家庭和谐为例如，有人说相亲相爱是和谐，有人说不搞外遇是和谐，还有人说搞外遇但不离婚就算和谐。家庭关系尚且如此，何况国家和社会的关系。
可见，在公共社会中使用“和谐”的说法需要作与现代政治、社会有关的释义，方能明确它的现代含义。我们可以用现代民主、宪政、法制、权利、权威等概念来解释“和谐”的现代政治含义，也可以用别类现代概念来解释“和谐”其它方面的现代意义。对于现代意识来说，“八音克谐”可以用来喻指社会多元，意见多元，思想多元。从这一点看，更需要坚持“八音”和“七音”的区别。一个人，一群人，或一个党派的人，就好比单一的某种乐器。只要一种乐器能有“七音”，调子变来变去，但音色(timbre)都是一个样。如果这类乐器以为只有自己的音色最优美，别类乐器发出的都是杂音和不和谐之声，统统必须禁声，那么就成了“一音克谐”。这里的“克”的意思不再是“达到”，而变成了“克制”或“压制”。
“八音克谐”还可以用来比喻现代社会的公共性和社会参与的公开性。“谐”是在多种声音一起发出时才产生的“和”。和谐的关键在于把各种声音都发出来。必须让各种社会声音都能在公共空间中发出来，让不同的人都能不受压制地公开参与，才有可能让他们在不断的自由交流中由“谐”而和。社会的和谐不是同声一腔，而是公开地“讲道理”和“有道理”。讲道理才是现代社会和谐的保证。
一种声音加一片沉默，那是独声，不是和谐。和谐是一种关系，是不同声音的共同存在，是多元存在凭借公共舞台的一种合作性展现。每一类乐器的表演成分可以有重有轻，有主有次，有大有小。但没有任何一类乐器表演应该独尊排它，也没有任何种类的乐器应该受压制或被轻辱。因此，和谐又是一种相互尊重、相互平等的伦理要求和道德原则。
在当今中国， “和谐社会”是被当作一种社会 “理想”提出来的，但更确切地看，它基本上只是一种社会危机感的反应。为什么这么说呢？ 这是因为一个积极的社会理想需要建立在一系列对“社会哲学”问题的思考之上，例如，什么是社会？社会和人的真实存在有什么关系？人们追求好社会，以什么为价值理念的根据？等等。只有在这样的基础上，人们才能理性地提出一些可以选择，也需要选择的社会理想。因此社会理想也往往在争论中产生，如自由民主或专制，宪政共和或君主立宪，共产主义或资本主义，阶级斗争或人性社会，等等。
和谐社会如果能包含这类问题的思考或者争论，当然不是不可能成为一种社会理想。试想，要是当年有谁能顶着“阶级斗争熄灭论”或“阶级调和”的大棒，勇敢地提倡和谐社会，哪怕就是喊成一句口号，也会有相当的理想意义。然而，就目前的情况来看，和谐社会主要是一种被动的危机意识反应。提出和谐社会是因为绝大多数人都觉得当今社会不和谐，不是因为有人主张和谐社会，有人不主张和谐社会。
越是表面上没有争议的好主意，越可能有隐藏在夹缝中的问题。道理很简单，这么人人称好的事情，为什么它偏偏不能自然而然地发生？当年共和宪政和君主立宪争得你死我活，现在人人赞同共和宪政，但宪政却是举步维艰。看来问题不是出在君主立宪的反对，而是出在现有的“共和”制度本身。正是那些藏在共和理想夹缝中，而又不能被坦然面对的问题(如公民权利、政党与国家权力的关系、权力和责任、权力平衡等等)终于使得共和宪政成为一句美好的空话。
同样道理，和谐社会的主意好是好，但要使它避免成为另一个“振奋人心”的空话，我们需要认真坦然面对那些可能隐藏在它夹缝中的问题。谁都知道，要社会和谐就要知道现今的社会有哪些不和谐，不能辨认又如何能去除不和谐？但如何辨认不和谐恰恰会成为一个夹缝问题。如果人们在这个问题上各说各话，无法取得基本的共识，那么越是各自强烈坚持自己心目中的和谐，反倒越会造成更大的相互不和谐。例如，有人说，“官治民”和“以吏为师”的制度不符合现代民主原则，它造成根深蒂固的官贵民贱，是一种社会不和谐；有人则说，这是中国政治文化特色，符合中国传统的和谐。媒体舆论控制，有人说言论不自由，沉默中不可能有和谐；有人则说消除杂音才能保证和谐。富的富，穷的穷，有人说贫富悬殊是不和谐；有人则说这是市场竞争规律，规律就是和谐。民情不畅，有人说冤情难以申诉，司法挡道，是不和谐；有人则说稳定压倒一切，是最大的和谐。大大小小的以公权为私器，有人说不和谐；有人则说坚持某某代表，是具有中国特色的和谐。凡此种种，不胜枚举。
即便在某些不和谐问题上(如官员腐败、贫富悬殊、农民负担、城乡差别等等)有了某种程度的共识，也还有许多别的夹缝问题， 譬如，哪些不和谐问题应该优先处理？ 什么是不和谐的根本制度原因？历史原因又是什么？ 需要不需要对大不和谐的过去作一些反思和批判？为什么以前的社会和谐理想(“为人民服务”、“人人为我，我为人人”)都无法兑现？谁该为过去的和现在的主要不和谐负责？如何对症下药？治本还是治标？何谓治本？ 由谁来最后决定和谐不和谐？以何种公共方式来达成共识？等等，等等。由此看来，要实现和谐社会，首先需要有一个可以讨论不和谐和其它夹缝问题的社会空间。在这个社会空间中，自由而理性地参与是每一个社会成员的权利和义务。有讨论，才能取得具有公共真实性的共识，有了这种共识，才能有共同行动。这个允许公众讨论和共同行动的社会空间就是公民社会。
