Der lateinische Begriff „salvare“ (=heilen) ist sozusagen der Namenspatron des Salbeis, die deutsche Bezeichnung könnte auch als verwandt mit „Salbe“ oder „salben“ in Verbindung gebracht werden. Beides bringt die Pflanze in engen Zusammenhang mit der bereits früh erkannten Heilwirkung.
Schon Hippokrates, Dioskurides und Plinius erwähnen die blutstillenden, harntreibenden und verdauungsregulierenden Eigenschaften der Blätter. Auch Karl der Große sah in dieser Pflanze ein wichtiges Heilkraut und fügte sie in seine Capitulare de villis aus dem Jahr 795 ein, welche den Anbau von 72 Nutzpflanzen, davon 24 Heilkräuter, in den königlichen Gärten regelte.
Bei den Kelten als heiliges Kraut verehrt, nutzten die Druiden das Kraut unter anderem für rituelle Räucherungen. Man schrieb ihm so starke magische Wirkung zu, dass man glaubte, Salbei können Tote zurückholen. Mancherorts wird dem Salbei auch nachgesagt, er gedeihe nur in den Gärten von Weisen und der Haushalte, in denen die Frau „die Hosen trüge“.
In alten Hausregeln des Mittelalters hieß es: „Warum soll der Mensch sterben, in dessen Garten Salbei wächst?“ Im Volksglauben galt Salbei als Schutzkraut gegen das Böse, vor allem wenn er um Mittsommer geerntet wurde. Auch bei Hochzeiten symbolisierte Salbei Fruchtbarkeit und Weisheit.