火药，顾名思义就是能着火的药，触火即燃是它的主要特性。那又为什么叫它做“药”呢？因为制造火药的两种主要成份－硝和硫磺都是药品，所以叫做火药。与依靠空气中氧气才能进行燃烧的物质不同，火药是由硝石释放氧气完成燃烧过程的自供氧燃烧体系，因而可以在密闭的容器中燃烧。由此可见，硝石在火药中扮演着氧化剂的角色。而硫磺在火药燃烧中扮演着还原剂的角色，是火药能够爆炸的重要因素。
在春秋晚期(公元前六世纪)，有一个叫计然的人就说过：“石流黄出汉中”，“消石出陇道”。石流黄就是硫磺；消石就是硝石，古时还称焰硝、火硝、苦硝、地霜等。可见早在春秋战国时期，木炭、硫磺、硝石已经为人们所熟知。在我国第一部药材典籍汉代的《神农本草经》里，硝石、硫磺都被列为重要的药材。即使在火药发明之后，火药本身仍被引入药类。明代著名医药学家李时珍所著的《本草纲目》中，说火药能治疮癣、杀虫、辟湿气和瘟疫
火药是由练丹家发明的。由汉代到唐代，练丹家经过长期的探索和大胆的试验，虽然没有达到练出“仙丹”的目的，但在练制“仙丹”的过程中发明了火药。
首先，人们对组成火药的三种成分的性质有了一定认识。早在商周时期，人们在冶金中已经广泛使用木炭。在实践中，已经了解到木炭是比木柴更好的燃料。硫磺有天然存在，人们很早就开采它。同时在冶炼中，逸出的刺鼻的二氧化硫和温泉中四溢的硫磺气直接地刺激着人们的感官。就在这些接触中，人们逐渐认识到硫的一些性能。除了获知它对某些皮肤病有特别的疗效外，还有某些奇特的性质。如《神农本草经》里说：“石硫磺……能化金银铜铁，奇物。”就是说硫能和铜铁等金属化合。我国最早一本炼丹著作东汉的《周易参同契》里，记载硫和水银化合生成红色硫化汞的反应。硫的这些性能在从事炼丹的方士眼里很受器重。硫不仅能和铜铁等金属化合，还能把那神奇的水银制服。于是练丹家们在妄图用水银炼制所谓的“金液”、“还丹”中，常常使用硫。在实验中，人们还发现，硫着火容易飞升，性质活泼，很难擒制。怎样才能使它药性缓和变成比较容易控制呢？练丹家们采用了一种名叫“伏火法”的办法，就是经过和其他某些易燃物质混合加热或进行某种程度的燃烧，使它变性。火药的发明就和这类硫磺伏火的实验有密切联系。硝的引入是制取火药的关键。硝的化学性质很活泼，撒在赤炭上立即就产生焰火，能和许多物质发生作用，所以在炼丹中，常用硝来改变其他药品的性质。同时又有很多伏火硝石的方法。又因为硝石的颜色和其他一些盐类如朴硝(硫酸钠)等差别不大，在使用中容易搞错，因此人们还掌握了识别硝石的方法。南北朝时期的医药家陶弘景在《本草经集注》中指出：“以火烧之，紫青烟起，云是硝石也。”这和近代用焰色反应来鉴别硝酸钾是相似的。这为后来大量地采用硝石做了技术上的准备。
对炭、硫、硝三种物质性能的认识，为火药的发明准备了条件。在我国封建社会的上升阶段，由于医药学和炼丹活动的发展，特别是通过长期的实践，人们在伏火硫磺、伏火硝石的多次实验中观察到，点燃硝石、硫磺、木炭的混合物，会发生异常激烈的燃烧。
唐代练丹家们于公元682年（唐高宗永淳元年）首创硫磺伏火法，在《诸家神品丹法》卷五中载有“孙真人丹经内伏硫磺法”：取硫磺、硝石各二两，研成粉末，放在销银锅或砂罐里。掘一地坑，放锅子在坑里和地平，四面都用土填实。把没有被虫蛀过的三个皂角子逐一点着，然后夹入锅里，把硫磺和硝石烧起焰火。等到烧不起焰火了，再拿木炭来炒，炒到木炭消去三分之一，就退火，趁还没有冷却，取出混合物，这就伏火了。从这一记载可见，当时已经掌握了硝、硫、炭混合点火会发生剧烈反应的特点，因而采取措施控制反应速度，防止爆炸。
公元808年（唐宪宗元和三年），又创“伏火矾法”。同类的实验在唐中期的《铅汞甲庚至宝集成》卷二中也出现。有个名叫清虚子的，在讲“伏火矾法”时说道：“硫二两，硝二两，马兜铃三钱半。右为末，拌匀。掘坑，入药于罐内与地平。将熟火一块，弹子大，下放里面，烟渐起，以湿纸四五重盖，用方砖片捺以土冢之，候冷取出，其硫磺伏住。”在这个实验里，野生植物马兜铃和上面实验中的皂角子一样，都是代替炭起燃烧作用的。同样也注意防止混合物的激烈燃烧。这样的操作方法是经过反覆实践的经验总结。
以上两种配方，把三种药料混合起来，已经初步具备火药所含的成分，在理论上近似22↑＋q方程式。不过所用的药料是天然品，没有经过提炼，质地既不纯净，份量也不标准，所以火药的力量还是微弱。
关于失败的教训也有记载。成书约在五代时期(公元十世纪)一本名叫《真元妙道要略》的炼丹书就告诫说，拿硫磺、硝石、雄磺(as2s2)和蜜合起来一块烧，会发生焰火，把人的脸和手烧坏，还能直冲屋上，把房子也烧了。由此可见人们已经熟知这类混合物燃烧爆炸的性能，在炼丹中加以防止。人们有意识地利用这类混合物的这一性能，火药就被掌握了。
经过炼丹