祭祖是另一种使家族制度化、机制化的方法。即在神庙或圣地祭拜氏族神以让他们保佑后人。在日本，即使是没有姓氏和家谱的平民也是这么做的。如果无法证明整个村民都同属一个祖先的话，他们是不会一起在一个神庙里祭祀祖宗或族神的。往往有些人因为住在某位祭神的封地上，就被称作这个祭神的“孩子”。当然，这块地儿的人和那块地儿的人其实最终还是有某种联系的。因为和世界各地的其他村落一样，人们由于在一个地方世代定居、通婚，彼此间就有了亲戚关系，只是他们不是出于同一个共同的祖先罢了。
一般人的客厅里都会摆着与六、七个最近去世的先人的灵牌，人们在这里祭拜祖先，表达对先人的怀恋和尊敬。在日本所有社会阶层中，人们每天都要通过这种方式来祭祀过世的父、母、祖父母以及其他近亲。佛坛前会供有食品，佛坛上供奉的是类似墓碑的灵牌。曾祖父、曾祖母的墓碑上的文字如果已经无法辨认，也不再有人去重新刻写它们，三代以前的墓地甚至会被人们快速淡忘。日本的家族联系很淡薄，也许与西方，比如法国的家族最相近。
因此，日本人的“孝道”主要是局限在朝夕相处的家庭成员间的。充其量只包括父亲、祖父，以及伯父、伯祖父及其后裔，范围就包括在这个圈子内，每个人应该根据自己在这个圈子里的的辈分、性别、年龄来确定自己的位子。豪门望族的家庭成员圈子可能大点，但往往会分成几个独立的支系，然后次子再另立门户。在这个小的家庭成员范围内，对每个处于不同位置的人应当承担什么样的义务有着明确的规定。只要长者还把持家里的事物，对他们就必须绝对服从。甚至今天，一个自己几个儿子都已成年的男子，在他父亲还未正式隐退之前，无论干什么都必须向年迈的父亲请示，获得他的允许。哪怕孩子已经三十、四十岁了，父母还是要一手包办他们的婚姻。父亲作为一家的男性之长，用餐时他首先拿筷子，沐浴时也是他先去洗，全家人向他毕恭毕敬地行礼他则只需点头受礼。在日本有一则流传极为广泛的谜语，用我国的解谜形式来翻译则是：“为什么儿子让父母明白自己也有错的时候就像要求和尚头上蓄发一样?”(佛教僧侣必须受剃度)答案是：“不管怎么想，绝对不可能。”
“各安其分”不仅包含着辈分的差别，而且也包含着年龄的差异。日本人在说自己非常困惑时，常说“既不是哥哥又不是弟弟”，就像我们说的：“既非鱼又非鸟”一样。在日本人看来，一个人只有保持如兄长一般的气魄，他在社会生活中才能如鱼得水。因为长子往往是继承者。去过日本的旅游者们往往会提到“日本的长子从小就拥有的责任感。”长子拥有与父亲相差无几的特权。在过去，弟弟肯定不久就会成为依赖长子的人。现在，特别是在农村和乡镇，按古老规矩长子留在家中，弟弟们受到更多的教育，到社会上去闯荡取得更多的收入。但古老的等级制观念仍然根深蒂固。
甚至在现今政治论坛上，在大东亚政策的讨论中这种遗留下来的兄长观念也表现得淋漓尽致。1942年春天，陆军省一个中佐发言人就共荣圈问题作了如下的发言：“日本是他们的哥哥，他们是日本的弟弟。这一事实要使占领地区的人民们都明白。不要对被征服者太体贴了，否则他们会非常依赖日本，以至对日本的统治产生不好的影响。”换言之，在做决定时，哥哥觉得怎样对弟弟好就怎么办好了，在这件事上不必过分考虑弟弟的意见。
不论长幼，一个人在等级制中所处的位置还和他的性别有关。日本妇女走路时要跟在她丈夫身后，因为她的社会地位比丈夫低。即使她们穿上西服，和丈夫并肩而行，进门时走在丈夫前面，一旦换上和服，就必须退到后面。在日本家庭中，女孩子只能眼睁睁地看着礼品，关怀和教育费全被兄弟占有。即使有几所为青年女性开设的高等学校，那里的课程也是以教导礼仪和举止规范为重，在智力训练上根本没法与男性学校相比。这种学校的宗旨无非是给那些上流家庭出身的女学生讲授一点基本的欧洲语言常识，以便他们在帮丈夫整理完书籍后，能正确地插入书架，放回原处。
但是，与亚洲其他的国家比起来，日本妇女还是拥有很大自由的。而且这也不单纯是日本西化的一种表现。比如，她们不像中国上层妇女那样必须缠足，她们不必始终藏在闺房里，他们可以自由进出店堂，在大街上行走等等，这些都让印度妇女羡慕不已。在日本，妻子掌管全家收入和支出的比例。钱财短缺时，她就把家当送进当铺。家庭主妇管理着家里佣人的事物，对儿子的婚姻也有很大的决定权。当了婆婆以后更是一把持家好手，对儿媳呼来唤去，仿佛忘了自己前半生也是一个唯命是从的媳妇一样。
在日本，由辈份、性别和年龄的关系而造成了极大的特权。但是，与其说这些爱行使特权的人是独断专制，倒不如说他们是受整个价值体系的影响。一般父亲或兄长要对全体家庭成员负责，包括活着的、去世的，以及将要出生的。他必须做出重大决定贯彻下去。不过，他的权力不是无限的。他的行动必须对全家的荣誉负责。他必须使儿子及弟兄们能牢记该家族的遗产，包括精神遗产和物质遗产，并要求他们配得上它们。即使是一个农民，他也是祈求祖先能够保佑他的崇高事业的。他的阶级地位越高，他对家族承任的义务越多。家族的责任和使命往往是要高于个人自己的要求的。
