曹操剛剛破降黃巾軍之際，公孫瓚應袁術之求，派遣劉備屯高唐、單經屯平原、盟友陶謙屯發(fā)干以威脅占據冀州的袁紹。這應該就是青州兵的首戰(zhàn)。

當時陶謙的軍隊駐扎在東郡的轄地之內，而平原與高唐也與濟北國相鄰。因此，曹操便與袁紹一起進行了南北夾擊。結果完全擊破了袁術的包圍圈，這一戰(zhàn)大概也是曹操同陶謙結怨的開始。

與此同時，青州兵朝著父子相繼、世代為兵的職業(yè)化、世兵化方向發(fā)展。相關史料顯示，青州兵自從初平三年十二月被收編之后，至少存續(xù)了二十八年（192-220年）。假如不是世代為兵，這支隊伍就不可能維持那么長的時間。但這部隊又是怎樣滅亡的呢？無人可知。有人說這個隊伍從200年成為了第二批屯田軍戶。也許吧，但也無從考證。

但是在青州兵生存時，有一點是100%確定的，那就是青州兵只會聽曹操一人的命令。因此，當建安二十五年（220年）正月曹操剛一去世，處于洛陽的青州兵“以為天下將亂，皆鳴鼓擅去，”根本不愿服從其他人包括曹操接班人曹丕的指揮，并因此在短期內造成了較大的混亂，要不是措置行當，甚至有可能釀成性質更為嚴重的動亂。但是從另一角度看，曹操還是有一定魅力的。

“追黃巾至濟北。冬，受降卒三十萬，男女百萬余口，收其精銳者，號為青州兵。”——《三國志魏書一武帝紀》

陳壽不愧是著史名家，短短兩句話就將青州兵的由來和組成講的非常清楚，沒有任何模糊矛盾之處。

有人認為史書對此記載很籠統(tǒng)，說曹操收服了30多萬身體強壯者，編成了“青州軍”，是史書的一個缺乏詳細考證的地方。 事實上向曹操投降的黃巾人眾公有100萬左右，其中黃巾軍數量上為30萬，不僅有青壯男子（即后來青州兵的主體），還有老弱士卒和年幼的“娃娃兵”，鑒于之前進攻徐榮失利以及所募揚州兵反叛的前車之鑒，曹操將士卒的戰(zhàn)斗力和忠誠放在首位，青州兵戰(zhàn)力剽悍所向披靡且如牙兵衛(wèi)士般只效忠于曹操一人即是其證。可以想見，青州士卒一定經過了頗嚴格的選拔，最終有數萬人被編為正式軍隊建制，為打消士卒后顧之憂同時建設較為穩(wěn)固的后勤基地，其余人眾，包括青州兵的家屬被安排屯田，為軍事提供糧草保障。

歷史學家高敏先生在他所著的《魏晉南北朝兵制研究》中，認為并不存在所謂的“宗教自由”問題，因為，他們自從投降后，基本脫離了黃巾教派。黃巾教只是一種招兵買馬和造反的口號，就如同后世的太平天國。 一旦庶民能夠安居樂業(yè)，黃巾教就對他們沒有任何吸引力。

他們投降后，從是無組織無紀律的閑散人員變?yōu)橛柧氂兴�，為曹操的事業(yè)做出了很大貢獻的得力部隊，而且子承父業(yè)，長期存在，青州兵的名號共存在了28年，曹操去世后，他們認為失去了效忠領袖，已沒有如此英明的人領導他們，各自要求散去。當時的大夫賈逵，是個很有才能的人，為了防止他們造反，向他們無條件提供糧食和回家金錢，這支為曹魏做出極大貢獻的軍隊，在最后一次向他們效勞一輩子的朝廷朝拜告別后，大多解甲歸田，過起了悠閑的農家日子。