汉语中“小说”一词最早见于《庄子》，指的是琐杂而不合于大道的言论。而班固在《汉书·艺文志》中论小说家之书，又用“街谈巷语、道听途说”来概括，强调“小说”是带传闻性质的不甚严肃和不甚真实的东西。古人归在“小说”类的著作，面貌很是纷杂；而指一种著述为“小说家言”，常常是带有贬义的。

从传闻、非真实这层意义上来说，中国古代的“小说”概念和西语fiction（小说）一词在根底上原本是相通的。人类正是从无意到有意，通过虚构的人物故事，来探究和想象生活。所以在古代泛义的“小说”概念之下，包容了作为虚构性叙事文学类型之一的小说。

正因为在正统观念中小说不受重视，它表现人们的生活与情感，反而更少拘禁、更多自由。以现代的眼光来评价，真正能够代表古典文学后期成就的作品，已经不再是传统诗文，而是在很多人看来“不入大雅之堂”的通俗小说了。