人类使用天然香料的历史极其久远，在古代四大文明的发源地，最早使用香料的时间，其有据可考的历史都可以溯及3000至5000年之前。
从现有的史料可知，中国对香料植物的利用在春秋战国时期就已开始了。由于地域所限，中土气候温凉，不太适宜香料植物的生长，所以春秋时期所使用的香木香草种类还不多，主要有兰（泽兰，并非春兰）、蕙（蕙兰）、椒（椒树）、桂（桂树）、萧（艾蒿）、郁（郁金）、芷（白芷）、茅（香茅）等。那时对香木香草的使用方法已非常丰富，不仅有焚烧（艾蒿），佩带（兰），还有煮汤（兰、蕙），熬膏（兰膏），并以香料（郁金）入酒。《诗经》、《尚书》、《左传》、《周记》、《山海经》等都有很多这方面的记述。如《周礼》所记：“剪氏掌除箜物，以攻攻之，以莽草熏之，凡庶虫之事。”
那时的人们不仅对这些香木香草取之用之，而且歌之咏之，托之寓之。如屈原《离骚》中就有很多精彩的咏叹：“扈江离与辟燕兮，纫秋兰以为佩”；“朝饮木兰之坠露兮，夕餐秋菊之落英”，“户服艾以盈要兮，谓幽兰其不可佩”，“何昔日之芳草兮，今直为此萧艾也”， “椒专佞以慢稻兮，木杀又欲充夫佩帏”。
到秦汉时期，随着国家的统一，疆域的扩大，南方湿热地区出产的香料逐渐进入中土。随着“陆上丝绸之路”和“海上丝绸之路”的活跃，南亚及欧洲的许多香料也通过新疆或广东传入了中国。檀香、沉香、龙脑、乳香、甲香、鸡舌香等在汉代都已成为王公贵族的炉中佳品。道家思想在汉代的盛行以及佛教传入中国，也在一定程度上推动了这一时期香文化的发展。
西汉早期，在汉武帝之前，熏香就已在贵族阶层广泛流行起来，而且有了专门用于熏香的熏炉，长沙马王堆汉墓就有陶制的熏炉和香茅出土。
随着汉代香料品种的增多，人们不仅可以选择自己喜爱的香品，而且已开始研究各种香料的作用和特点，并利用多种香料的配伍调合制造出特有的香气。于是，出现了“香方”的概念。“香”的含义也随之发生了衍变，不再像过去那样仅指“单一香料”，而主要是指“由多种香料依香方调和而成的香品”，也就是后来所称的“合香”。从单品香料演进到多种香料的复合使用，这是一个重要的发展。东汉时期《汉建宁宫中香》的香方就显示了汉代的这一用香特点：
黄熟香，四斤；白附子，二两。
丁香皮，五两；藿香叶，四两。
零陵香，四两；白芷，四两。
乳香，一两；檀香，四两。
生结香 四两；甘松，五两。
茅香，一斤；沉香，二两。
苏合油，二两；枣，五两。
研为细末，炼密和匀，窖月余作丸，或饼爇之。
可以看出，到东汉时，不仅香料的品种已非常丰富，而且香的配方也十分考究，已经与中药的配制有了异曲同工之妙。
到魏晋南北朝时期，汉代就已非常兴盛的道学对社会生活的影响仍然很大，而从汉代开始传入中国的佛教也迅速传播开来，无论道家还是佛家都提倡用香；而盛行玄学（道家与儒家的融合）的魏晋文人对香更是尤为青睐；再有魏文帝、晋武帝、南唐后主李煜等爱香的帝王的带动，从而使这一时期的香文化虽经连番战乱，却仍然获得了较大的发展。合香配方的种类继续增多，并且出现了一批专门用于治病的药香。
