“小品”一词早在晋代就有了，原本属用语。据南朝宋刘义庆《世说新语·文学》记载：“殷中军读小品，下二百签，皆是精微，世之幽滞，欲与支道林辨之”。在句下刘孝标注：“释氏《辨空经》有详者焉，有略者焉。详者为大品，略者为小品。”可见，“小品”是与“大品”相对而言，指的节本。因其篇幅短小，语言简约，便于诵读和传播，故备受人们青睐。
到了晚明时期，文人为逃避祸患，嗜佛成风，但只是逃于禅、隐于禅，大多数人并未真的遁入空门。所以他们根本没有耐性钻研深奥玄秘、卷帙浩繁的佛典，却对“小品”情有独钟。随着“禅悦”之风的兴盛，文士们将“小品”概念移植到文学中，便成为很自然的事了。这个时期的小品大体上指散文体，篇幅短小，隽永新异。它并不特指某一专门的文体，像游记、杂记、随笔、书信、日记、序跋等都可以包括在内。
在现代，小品是指“篇幅短小的杂文或其他短小的表现形式”，再后来，小品的含义又发生了变化，专门用来指称戏剧小品这种艺术形式了。