日本自古便有制作以土塑形烧制的土偶和埴轮等，尔后在宫中节庆所使用的人偶改用稻杆或人形纸张制作，而贵族女子在“女儿节”使用人偶也换成纸制人偶，到了江户时代(1603～1868)，庆祝女儿节的人偶，据说是仿造当时极受人喜爱的歌舞伎演员而制作的市松人偶(日本人偶)等，当时已开始制作有穿戴衣服的人偶，并普及至平民百姓。

到了近代，女儿节人偶越来越豪华；随著居住环境与时代的变迁，现在简单小巧的人偶已成为主流。

764年，为了祈愿镇护国家(佛教护国思想)，当时的天皇命木匠打造了百万座收纳佛经的小塔，相传这些小塔即是小芥子的起源。而流传到现代的小芥子，是始于江户时代(1603～1868)日本东北地方的温泉区所制作的伴手礼。小芥子作为鉴赏用或把玩用的物品，至今一直深受人们喜爱。

除了传统的小芥子外，还出现了不少将脸部和躯体的设计改为现代风格或模仿卡通人物的作品，被称为“创作小芥子”。