琴究竟起源于何时，始终是一个扑朔迷离的问题。关于琴的创始者，总览历代文献与上古传说，约有伏羲、神农、黄帝、唐尧、虞舜造琴几说：

伏羲——历代文献记载中最为多见。如《礼记》中载：“伏羲制嫁娶以俪皮为礼，作琴瑟以为乐。”《琴操》也有 “昔伏羲氏之作琴，所以修身理性，返天真也”的说法。

神农——东汉傅毅《琴赋》有：“神农之初制，尽声变之奥妙。”《世本》也说：“神农作琴，又曰，琴长七尺二寸。”

黄帝——司马迁写《史记》即言，从黄帝始，定下了中华的物质文明大多由此发端的基调。传说中的黄帝不但定律，还曾创制名为《清角》的琴曲，可见琴的发端也与其有关。

尧——《帝王世纪》曰：“尧作《大章》，使无句作五弦琴，天下大和。于是景星耀于天，甘露晞于地，朱草生于郊，凤凰止于庭，嘉禾孳于亩。”宋代的朱长文著《琴史》，书中将帝尧列为全书之首：“帝尧宅天下，……当《大章》之作也，琴声固已和矣！”。

舜——《尚书》记载："舜弹五弦之琴，歌南国之诗，而天下治。"另外，《礼记》中有：“昔者舜作五弦琴，夔始制乐，以赏诸侯”的描述。

著名学者罗振玉认为，商代的甲骨文中“樂”字是“从丝附木上，琴瑟之象也”，可谓商代已有琴之一说。尤其，约成书于公元前6世纪中叶的《诗经》，载有自公元前11世纪至前6世纪305首古代乐歌。其中琴的记载反复出现于字里行间，如：“窈窕淑女，琴瑟友之”，“琴瑟击鼓，以御田祖”等等，说明当时的琴乐已广泛地渗透到社会生活各个层面。孔子也曾将《诗经》305篇 “皆弦歌之”，表明《诗经》实为最早的琴歌总集。可见，琴在三四千年前就已广泛流传。