这个其实是起源于一个故事。传说“石敢当”是一位神仙，他住在泰山之上，专门降妖除魔。哪里有妖怪，他就去帮忙打妖怪。妖怪听到他的名声，就吓得不行。
但是，随着他名气越来越大，来求他的百姓也越来越多，于是他就忙不过来了。那该怎么办呢？
所以，他就想了一个办法，在泰山上找了一些碎石头，把自己的名字刻在了石头上面，然后送给来寻求他的百姓。
告诉百姓们只要把这个石头立在屋顶之上，那些妖魔鬼怪看到了就会害怕，也就不敢再找来了。所以，百姓们就都把碎石头带回家，立在了自家的屋顶上。
虽然这只是一个传说，但是慢慢的，大家就都沿用下来了。
而且，一直以来大家对于泰山都有崇拜之情，泰山是五岳之首，对于泰山都有一种莫名的敬畏。古时候，皇帝祭祖，也都是喜欢来泰山。
后来，村民们只要建了新房子，就会在房角上立一块石头，写上“泰山石敢当”这几个字。为的就是辟邪，希望那些妖魔鬼怪看到这几个字，就不敢来犯。
之所以会立在不同的方向，有的是比较显眼，有的是出于风水考虑。
有些村民除了刻这几个字之外，还会再立一些狮子，这就一起加强作用，而不是为了好看或者是装饰用的。
当然，这样的说法是有些迷信，现在有不少村庄都已经摒弃这些传统了。但是老一辈的人们，还是对此深信不疑，他们觉得宁可信其有，不可信其无，神明是不容侵犯和亵渎的。
除了用于辟邪，农村有些地区，还用它来完善房屋的风水，用于补齐房子的缺角，在农民眼里，自己房屋要是有缺角了，是会给家人带来霉运的，所以，就把刻着字的泰山石对着房屋的缺角摆放，这样一来，就能够转运了。
样式也不尽相同，有的是刻在石头上，有的是用砖头砌成的，还有的是刻在水泥板上，等等。很多人对于此种现象，不明所以，其实，这是农村传统的习俗，从古代一直沿用到至今。
为何古代独用泰山之石？源于人们对泰山的崇拜，东岳泰山是五岳之首，人们认为泰山集天下的灵气于一身，不光老百姓，就连古代的帝王将相，对泰山也是崇拜至极，他们是很喜欢来泰山，祭拜祖先的。今天的泰山，已成为中华文明的历史象征，人民币五元的纸币上，用的就是泰山的图像。
为什么叫“泰山石敢当”呢？来源于一个传说，传言石敢当是住在泰山上的一位神仙，法力高深，勇猛无比，他肩负为山下住户降妖除魔的重任，后来由于他的名声越来越大，妖怪们听到他的名字就不寒而栗了，与此同时，来求他的老百姓就多了起来，他要抓的妖魔实在是太多了，就忙不过来了。
于是，这位石敢当大神就找来泰山的碎石头，刻上“泰山石敢当”这几个字，见字如见人，老百姓再来求他捉妖时，他就把刻字的石头赠予人家，并表示只要把它放在房屋上，妖怪看到就会感到害怕，不敢再伤害人了。
虽然只是个传说，但农民们普遍都认为，宁可信其有，不可信其无，况且做法也不麻烦，照做就是了，说不定真的能起作用呢。一直到今天，农民们早就默认了，自家房子刻上“泰山石敢当”这几个字，主要是用来辟邪的，而不是为了装饰。
为了便于理解农民的想法，这里打个比方，把一个稻草人放在地里，就能吓得麻雀，不敢来地里偷吃稻子了，同样的道理，农民认为，在自家房子的醒目地方，做一个石敢当的假象，就能抵挡住妖魔鬼怪，从而起到了辟邪去煞的作用。
因为泰山石敢当为人正直，除妖降魔，打抱不平，为民除害，人们很崇敬他，后来人们摆上泰山石敢当用来辟邪，祈求保平安。
1.上古之时有很多禁忌和崇拜
上古之时有很多禁忌和崇拜，石崇拜就是其中很特别的一种崇拜，而将小石碑（或小石人）立于桥道要冲或砌于房屋墙壁，上刻（或书）“石敢当”或“泰山石敢当”之类，要禁压不祥之俗，在民间甚为流行。
2.石敢当的传说
泰安南边五六十里地,有个大汶口镇.镇里有户张姓人家,张家的女儿年方二八,长得自然是脱俗漂亮.可近来每到太阳压山的时候,就从东南方向刮来一股妖气,刮开她的门,上她屋里去.这样天长日久呢,女孩就面黄肌瘦,很虚弱.找了许多先生看,也治不好.人们说,这是妖气缠身,光吃药是治不好的.石敢当用自己的方法赶走了妖怪。后来听说泰山有个石敢当,能治妖,越来越多的人请他降妖后来就有人想用刻有'泰山石敢当'的石头,谁家闹妖气,你就把它放在谁家的墙上,那妖就跑了."以后就传开了,说妖怪怕泰山石敢当,只要你找块石头或砖头,在上面刻上"泰山石敢当",妖怪就不敢来了。
3.立泰山石成为遍布全国的风俗习惯
实际上，农民刻这几个字在墙上的风俗起源于唐代。最初，石敢当是人们对石崇拜的微妙魅力。在唐末，许多人开始在墙上雕刻。 用来镇百鬼，厌灾殃，代表了对美好生活的寄托。在明代，随着泰山信仰的传播，许多农村地区在石上增加了泰山。
随着时间的流逝，泰山石敢当成为农村的习俗。现在，除了西藏和新疆外，立泰山石已成为遍布全国的风俗习惯。所以现在盖房子、垒墙的时候,总是先刻好了"泰山石敢当"几个字垒在墙上,就可以避邪。
这种风俗其实为时已久，一种说法认为始盛于唐代。泰山石敢当习俗从内涵上体现的是“保平安，驱妖邪”。
泰山位居东方，是太阳升起的地方，也是万物发祥之地，因此在传说中，泰山神具有主生、主死的重要职能。因此泰山上的石头也就有了特殊的含义：东岳泰山之石具有独特的灵性和神力。