打油诗最早出自唐朝民间，因为打油诗对文学知识和格律的要求不高，所以很多百姓也能自创打油诗。这种诗体更加适合普通人，打油诗一般符合两个特点，一是通俗诙谐；二是不拘于平仄韵律，也是百姓们想要表达自己生活态度或者想法的一种方式。虽然打油诗对格律的要求不高，但还是会遵循押运的特点，所以在民间也更加容易传播。
如果要做比喻的话，在古代诗歌这棵大树上，格律诗就是主干上的繁花，而打油诗则是无法攀比的斜枝上一朵有点丑的小花；或者说，唐诗宋词就像京剧里的大家闺秀，而打油诗则像跑来跑去的调皮的小丫鬟；抑或说，古典诗歌居于诗歌的庙堂，而打油诗则处在诗歌的江湖和民间。当然，任何比喻都是跛脚的，花虽然有点丑，但毕竟它还是花，自有它的香味和颜色；而小丫鬟在一出戏中，也是活泼可爱，姿态动人的；庙堂之上，固然令人肃然起敬，但民间和江湖，也不可小觑。
打油诗的鼻祖，世皆公认，是中唐民间诗人张打油。而鼻祖既开先河，又是代表作的，是一首著名的《雪诗》。诗云：“江山一笼统，井上黑窟窿。黄狗身上白，白狗身上肿。”
由于打油诗不是严格地受格律的限制，信手拈来，通俗易懂，诙谐幽默，所以，颇为下里巴人所喜好，从而得以长久流传。祖师爷之后，也有一些有趣的打油诗留了下来，为人们津津乐道。试看，宋陆伯诗的《咏雪》：“大雪洋洋下，柴米都涨价。板凳当柴烧，吓得床儿怕。”北宋理学家名臣赵抃，号称“铁面御史”，他淡泊功名，毫不恋栈，退隐之后，就以一首打油诗明志：“腰佩黄金已退藏，个中消息也平常；世人欲识高斋老，只是柯村赵四郎。”表示自由完全回归乡里，成为布衣平民了。
需要说明的是，有很多人也常常把自己的诗称作“打油诗”。像鲁迅先生说他著名的《自嘲》诗是“闲人打油”，像邵燕祥先生也曾把自己的诗集取名为《邵燕祥诗抄·打油诗》等等，这些，都是他们自嘲或者自谦，不可当真就说他们的诗是打油诗。