歯磨剤が人類の歴史に登場するのはきわめて古く、現存する記録、文献としては、古代エジプトで書かれた医学書 Papyrus of Ebers(紀元前1550年頃)があります。この中に、ヒウチ石の粉末、緑青、緑粘土、乳香、蜂蜜などを用いた粉歯磨剤や練歯磨剤の処方が記載されており、その後、古代ローマやギリシャ時代にも鹿の角の粉末、動物の骨灰、軽石または大理石の粉末、蜜、各種の薬草を原料にした歯磨剤の記録があり、中世まではこのような歯磨剤が使用されていたものと思われます。
歯磨剤が、その原料や性状、機能において今日の歯磨剤に近いものになったのは、近代化学工業の芽生えた18世紀以降のことで、現在の押し出し式チューブは1850年(嘉永3年)、米国の「シェフィールド練歯磨」が最初とされています。
わが国では、古墳人骨の「歯の側面摩耗」によって、奈良朝以前から一部に歯磨剤のようなものが使用されていたことが推察されます。また、木片等によって口中を清掃する習慣も、中国から伝来した仏教の儀式の一つとして平安時代以降に認められますが、歯磨剤として文献に現われるのは、寛永年代の終わり(1643年頃)、丁字屋喜左衛門という商人が、当時日本へ朝鮮半島から渡来した人達から歯磨剤の処方を教えられ、「丁字屋歯磨」として発売したのが最初といわれています。
江戸時代の歯磨剤は、房州砂を原料として、これに竜脳、丁字、白檀で香りを付けたものでした。その後、焼塩、炭、貝がらを焼いた粉末、こしょう、唐辛子、ハッカなども用いていました。
明治時代になって、欧米式処方が知られるにつれ大きく変化しました。すなわち、性状は昔と同様の粉歯磨剤であっても、その粉体として炭酸カルシウムの微粉末などが、また、清掃効果を高めるために石鹸なども使用されるようになりました。また、製品の形態としては明治30年前後には固練歯磨剤が陶製容器入りで、大正時代初期にはチューブ入り歯磨剤も登場しました。潤製歯磨剤は大正末年より発売されています。
ヨーロッパなどでも、中世頃までは口中の清掃(歯を白くする、口中を爽快にする)だけを目的としていた歯磨剤ですが、歯をみがくことがむし歯予防など口の中の健康保持に密接に関係することが次第に明らかとなり、17〜18世紀以降ようやく現在のように日用口腔衛生品としての価値が確立されるにいたったのです。これは、近代科学、特に医学、薬学の進歩と切り離して考えることはできません。とくに、戦後、フッ化物や各種の殺菌剤、歯周病予防剤などすぐれた薬剤が研究され、これらを配合して臨床的に効果の確かめられた歯磨剤が続々発売されています。