日本自古便有製作以土塑形燒製的土偶和埴輪等，爾後在宮中節慶所使用的人偶改用稻桿或人形紙張製作，而貴族女子在「女兒節」使用人偶也換成紙製人偶，到了江戶時代(1603～1868)，慶祝上巳女兒節的人偶，據說是仿造當時極受人喜愛的歌舞伎演員而製作的市松人偶(日本人偶)等，當時已開始製作有穿戴衣服的人偶，並普及至平民百姓。

到了近代，女兒節人偶越來越豪華；隨著居住環境與時代的變遷，現在簡單小巧的人偶已成為主流。

於764年，為了祈願鎮護國家(佛教護國思想)，當時的天皇命木匠打造百萬座收納佛經的小塔，據說此為小芥子的起源。流傳至今的小芥子，是始於江戶時代(1603～1868)日本東北地方的溫泉區所製作的伴手禮。直至現在，小芥子作為鑑賞用或把玩用的物品，一直深受人們喜愛。

除了傳統的小芥子外，還有稱為創意小芥子的作品，將臉部和軀體的設計改為現代風格或模仿卡通人物。