在隋唐以前，朝廷选拔读书人做官的方式，采取的是“九品中正制”。什么是“九品中正制”呢？就是由有见识的官员担任各地方的中正官，负责评审本地读书人；然后，依据他们的家世背景和才能品德，把他们分为九个等级，也就是“九品”。等级越高，表示以后给他们授予的官职越大。
“九品中正制”开始实行时，是一种发现人才的优秀制度。但到了隋朝，皇帝发现，这个制度的弊端很大。因为各地都有势力很大的家族，即世代为官的名门望族，他们常常左右评审官的意见，让自己家族的子弟进入“上品”，顺利进官府任职。这样就造成朝廷重要的官职往往被少数名门望族所垄断；而许多出身寒门的读书人，尽管有才华，只能被列为“下品”，无法得到朝廷的重用。
为了改变这种现状，隋文帝废除了“九品中正制”，命令地方官员按照德行和才能两科来推荐人才。这被看作是科举制的开始。公元607年，隋炀帝下诏设立十科，以利选拔人才，选拔的办法就是考试。如秀才科，需要考试策和杂文；明经科需测试对经典的熟悉程度；进士科主要考察文才。通过科举考试的读书人，要当官的话还得进一步通过吏部的考试。
科举制的考试人人可以参与，不必考察家世背景，这就给了广大贫寒人家的子弟以公平竞争的机会。
到了唐朝，唐太宗、武则天、唐玄宗先后完善了科举制。当时的考试有每年分期进行的，也有由皇帝下诏临时举行的。考试的科目多达50多种，最常考的是明经和进士两科。
所谓明经科，就是考察考生对经典原文和注释的熟悉程度。有一种考试的方式十分有趣，就是考官将经书随意翻开一页，把两边的文字遮起来，只留下一行字；这行字中再把三个字盖起来，然后请学生填写完整。能把经书背诵下来的学生，应付这个考试易如反掌。
相比之下，考进士科要难得多，因为要测试考生的文学才能和写作能力。光有死记硬背的功夫还不行，必须要具有想象力，擅于创作，才能考取进士。所以，当时社会上流传着“三十老明经，五十少进士”的说法，意思是说，一个三十岁的人已经考上明经科很多年了，而五十岁的人才刚刚考上进士。这就是说，要考上进士，需要花费很多年的工夫。
正是由于考中进士不容易，所以获得金榜题名的人是非常荣耀的。考取进士第一名的佼佼者，被尊称为“状元”。像唐朝著名的诗人张九龄、王维和大书法家柳公权，都是名噪一时的状元。所有中了进士的读书人，在张榜公布之后，都会举办一系列庆贺活动，如到名园探采名花，参加宴会，还到长安的大雁塔下写上自己的名字以示荣誉。
唐朝诗人孟郊有一首诗《登科后》，生动地描写了自己以四十六岁“高龄”终于考取进士的舒畅心情：“昔日龌龊不足夸，今朝放荡思无涯。春风得意马蹄疾，一日看尽长安花。”这首诗的意思是说，以往准备考试期间，我生活得十分困苦艰辛，现在终于榜上有名，内心自然十分轻松惬意。骑着马奔驰在长安城里，春风拂面，喜气洋洋，一天之内就把繁花似锦的景色看了个够。
科举考试制度的确立，为朝廷选拔人才起到了积极的作用。它从隋唐时期创立，到清朝末年结束，大约延续了1300年。它在中国老百姓的心中，树起了“学而优则仕”的观念，形成尊重读书人、尊重教育的良好社会风气。