相传琴已有3000余年历史。历代诸多的琴学文献记载都认为，琴是由伏羲、神农、黄帝、唐尧、虞舜等圣贤所创制。

春秋战国时期，古琴的独奏音乐已具有一定的艺术表现能力， 由于“士”族文人阶层的兴起,使得古琴成为当时士大夫修身理性的工具。孔子、庄子、荀子等先贤圣哲，不仅在他们的著作中表达了各自的琴乐审美观念，同时也是出色的古琴家。

汉、魏、六朝时期，古琴艺术有了重大发展，文人奏琴开始从身份象征转向个人爱好，司马相如、刘向、蔡邕、嵇康等就是这个时期的琴人代表。中国所见七弦琴的最早出土实物，则为1993年在湖北荆门郭店出土的战国中期琴。此琴的形制与曾侯乙墓的十弦琴十分相近，可证两者之间的同源关系。此时的古琴已经确定无疑地呈现出合体全箱式、七弦、两足、十三徽的成熟风姿了。古琴形制至此已基本稳定，一直流传沿续到现在。

隋唐时期，结束了南北朝分裂的局面，创造了空前的盛世。由于社会繁荣稳定，此刻“淡无味”的古琴音色在贵族阶层不再受欢迎，但在当时的文人阶层中依然有着广泛的知音，并涌现了一批影响深远的文人琴家，他们弹奏并参与琴曲创作，如王维、李白、顾况、白居易、温庭筠等等。文人的大量参与，使琴曲创作及演奏技法不断提高，同时也推进了斫琴工艺的发展。唐代斫琴名家以四川雷氏家族为最，他们所制的琴被人们尊称为“雷琴”或“雷公琴”。

宋代由于皇室对琴文化非常重视，宋徽宗赵佶曾设“万琴堂”搜罗天下名琴，并且赵佶本人也是一个优秀的琴家。统治阶级的提倡，再加上文人的广泛参与，这就使宋代琴曲数量大增，质量也有所提高。在这一时期，还出现了前所未有的官方“琴局”，其琴俱有定式，长短大小如一，故称为“官琴”。宋琴的外型也一改唐琴圆拱的特点，变得较扁，形成“唐圆宋扁”之风格。

明、清时期，城市繁荣，市民阶层扩大，琴界也日趋活跃并形成一些琴派，如虞山派、广陵派、泛川派、九嶷派、诸城派、梅庵派等。明代帝王经常组织大批造琴，出现了一些斫琴能手。嘉靖年间，有为衡王造琴的冯朝阳，有为益王造琴的涂桂；崇祯年间有为内府局监制的琴张，他们与其它工匠一起，成百上千地为官方造琴。

清末与民国年间，由于战乱和社会变迁，特别是外来文化的侵入对本土文化的打击增大，使古琴音乐逐步濒于绝灭。当时，全国各地也出现了一些琴会组织，如北京的“岳云琴会”、济南的 “德音琴社”、上海的“今虞琴社”等，它们的活动都有一定的社会影响。

建国之后，古琴音乐得到政府的重视，全国音协、文化部、广播局联合举办了一次全国范围的调查、收集与整理工作，使流失于民间中的各种传谱得到保护，并录制了一批珍贵的音响数据。一些琴家经过艰苦的探索与推敲，发掘出一批失传的古代名曲，如《广陵散》、《幽兰》、《胡笳十八拍》等，使绝响的优秀琴曲重发妙音。

2003年11月，联合国教科文组织正式批准中国的古琴艺术为“人类口头和非物质遗产代表作”，作为需要重点扶持和抢救的世界优秀文化遗产之一。