春秋戰國時期，楚國有一個叫俞伯牙的人他從小非常聰明，天賦極高，又很喜歡音樂，尤其是他的琴彈得很好。他的老師就是當時很有名的琴師成連。伯牙最喜歡談的就是《高山》《流水》琴曲，常常為找不到知音而發愁。
史載有一年，俞伯牙奉晉君之命出使楚國。八月十五那天，他乘船來到了漢陽江口。遇風浪，停泊在一座小山下。晚上，風浪漸漸平息了下來，雲開月出，景色十分迷人。望著空中的一輪明月，俞伯牙琴興大發，拿出隨身帶來的琴，專心致志地彈了起來。他彈了一曲又一曲，正當他完全沉醉在優美的琴聲之中的時候，猛然看到一個人在岸邊一動不動地站著。俞伯牙吃了一驚，手下用力，「啪」的一聲，琴弦被撥斷了一根。俞伯牙正在猜測岸邊的人為何而來，就聽到那個人大聲地對他說：「先生，您不要疑心，我是個打柴的，回家晚了，走到這裡聽到您在彈琴，覺得琴聲絕妙，不由得站在這裡聽了起來。」俞伯牙彈完一曲，砍柴人一聲緩嘆曰：「嵬，乎志在高山；湯，乎志在流水。」
俞伯牙驚奇地嘆道在這夜深人靜的郊外就有懂得他琴曲的知音，他激動的移船相見，當即邀砍柴人暢抒情懷，得知砍柴人名叫鍾子期，就當即和他喝起酒來。倆人越談越投機，相見恨晚，結拜為兄弟。約定來年的中秋再到這裡以琴相會。
轉眼到第二年中秋，伯牙興致勃勃的常州如期赴約，他揮手彈奏，高山流水。曲罷，久久不見子期到來，伯牙深感不安，經多方打探得知，子期已不幸染病去世，臨終留下遺言，要把墳墓修在江邊，到八月十五相會時，聽俞伯牙的琴聲。伯牙萬分悲痛，他在子期墳前悽楚地彈起了《高山流水》。曲罷，摔琴發誓：「永不再彈琴。」
兩位知音的友誼感動了後人，人們在他們相遇的地方，築起了一座古琴臺。直至今天，人們還常用「知音」來形容朋友之間的情誼。