其实，张角要起事已经预谋了很久了。在黄巾起义之前，东汉就已经有了许多的地方起义，而这些起义几乎都打出了某位尊神的名号，并以其为领导者的自称。据史书记载，黄帝、黄帝子、黑帝、无上将军、真人、太初皇帝等旗号都打出来过。这些名号，并不是随随便便打出来的，每种名号都代表了某种宗教信仰。虽然这些起义最终都以失败告终，但给了不安分的张角一个很好的借鉴：以宗教的名义发动农民起义，很有效；同时张角也得到了一个宝贵的经验：这些宗教都太没有组织性了，简直就是乌合之众。
因此，张角准备自己创立一个宗教，然后在合适的时候给腐败的东汉一刀。张角领着两个弟弟张宝、张梁，创立了一个叫太平道的组织。为什么叫这个名字呢？因为张角有一部号称天授神书的《太平经》，故以此为名。
张角担任太平道的掌门人，自称大贤良师，持九节杖，在民间传统医术的基础上,加以符水、咒语，为人治病。并以此为掩护，广泛宣传《太平经》中关于反对剥削、敛财，主张平等互爱的学说、观点，发展了很多信徒。张角又派出八个弟子，到四面八方去宣传教义，发展徒众，“以善道教化天下”。十余年间，太平道信徒遍布青、徐、幽、冀、荆、扬、兖、豫八州，达数十万人。信徒主要是农民，也有城镇手工业者，甚至个别官吏、宦官也都入了教。张角将教徒划分为三十六方（即教区），大方万余人，小方六七千人，每方设渠帅负责统领。