据学者研究，我国比较可靠的最早的五言诗有两首，一是《汉书﹒五行志》中记载的汉成帝时代的五言童谣：“邪径败良田，谗口乱善人。桂树呆不实，黄雀巢其颠。昔为人所羡，今为人所怜。”二是东汉班固的《咏史》：“三王德弥薄，惟后用肉刑。太仓令有罪，就逮长安城。”
这两首五言诗还显得有些不成熟，体现了五言诗正处于发展的初级阶段。
钟嵘《诗品》说班固诗《咏史》“质木无文”，这说明文人初学五言诗体，技巧还很不熟练。继之有张衡《同声歌》、秦嘉《赠妇诗》、赵壹《疾邪歌》等，表现技巧日趋成熟，逐渐从叙事而臻于抒情。
东汉末年无名氏《古诗十九首》的出现，标志着五言诗已经达到成熟阶段。到建安和魏晋南北朝时期，五言诗已“居文词之要”（钟嵘《诗品》），成为最盛行的诗体，出现了大批名作。
五言诗的产生，是中国诗歌史和中国文学史的一个重大转折点和重大进步。汉代以前，偶有五言诗句。《诗经》以四言为主，偶五言的句子，如《召南·行露》：“谁谓雀无角，何以穿我屋谁谓女无家，何以速我狱”。楚辞和楚歌多为不规范的辞句，也多为四言，过于短促，不足以表情达意，也未能尽韵律。
秦始皇时有五言民歌《长城谣》：“生男慎勿举，生女哺用脯。不见长城下，尸骸相支柱。”五言诗的产生，是内部因素和外部因素共同作用的结果。从汉武帝到建安之前，史称“辞赋时代”，作品体制宏伟，堆叠铺排，光彩辉煌，但有时内容和感情相当空虚。有人说，两汉是一个诗思消歇、诗人寥寞的时代。
五言诗是在两汉民谣和乐府民歌中首先产生和发展起来的，作为一种独立诗体，大约起源于西汉，成熟于东汉末年。东汉末年，内地与西域通商，人员往来频繁，带来了新声雅乐，促进了五言诗的发展和成熟。
