根据印度神话记载,阿育吠陀的起源颇具传奇色彩。它是由印度教三大神之一的创世者梵天(Brahma)在创造人类之前为保护人类而创建的。梵天先把阿育吠陀传授给医学之神孪生的双马童(Aswins),他们又传授给专司雷雨的天神因陀罗(Indra)。因陀罗传授给在人间修行的贤达之士,他们再传授给他们的后代和弟子。
在历史上,阿育吠陀的记载首次出现在公元前6000年印度古老的诗歌总集梨俱吠陀(Rig Veda)中。公元前3000年至公元前2000年,四部吠陀经典之一的《阿闼婆》(Atharva)问世,其中阿育吠陀作为吠陀圣典的补充——副吠陀,附属于阿闼婆吠陀。尽管阿育吠陀医学早已经应用于实践,但直到此时它才由口头相传编撰成书,成为一门独立的科学。