（一）制度的概念
新制度经济学，必须区别什么是制度的概念。否则新制度的新在何处呢？科斯认为，所谓的制度，就是人或组织之间的行为准则和互动关系， 如传统、风俗、习惯、潜规则、人情关系、血缘关系等等，都纳入了新制度经济学的研究范围。如果不遵循这个制度概念的，就不是新制度经济学。这是区别其他研究制度的经济学家混入新制度经济学的判断工具。有些经济学家虽然也在研究制度，或者利用新制度经济学的工具来研究他们自己所认为的制度，没有遵从科斯对制度所规定的概念，所以，不能把所有研究制度的经济学都纳入新制度经济学领域。充其量是研究对象的接近。新制度经济学中的制度，不是挂在墙上的制度，也不是印刷在文件或书籍中等等制度，他是一种很现实的、很实用的现实制度，是指导人们行为规则的制度。
纯粹的新制度经济学家，对于制度有一种特别的崇拜性冲动，他们认为制度决定了历史进程，“制度决定了一切”。如火车车厢的宽度和铁轨的长短，取决于两匹马臀部的宽窄，而不是别的因素。因为最初的火车是利用马匹拉动车厢，车厢大小宽窄，是模仿了马车大小设计，马车车厢的宽窄取决于马的臀部宽窄，两匹马的臀部宽窄，亦需要和马车车厢的宽窄保持一致，否则，便会产生不当问题，如前部过于窄小则马车动力不足；如果车厢过于窄小则导致马车效用不能完全发挥，故而，马车车厢和2马匹臀部的宽窄保持了一致，由此才决定了当今火车车厢和铁轨的宽窄。数百年下来，尽管火车车厢和铁轨宽窄发生了几次变化，但每次变化都是根据原本的两匹马的臀部宽窄所决定。根据马匹臀部宽窄来决定火车车厢和铁轨宽窄的制度延续至今。
（二）交易费用理论
交易费用是新制度经济学最基本的概念。交易费用思想是科斯在1937年的论文《企业的性质》一文中提出的，科斯认为，交易费用应包括度量、界定和保障产权的费用，发现交易对象和交易价格的费用，讨价还价、订立合同的费用，督促契约条款严格履行的费用等等。
交易费用的提出，对于新制度经济学具有重要意义。由于经济学是研究稀缺资源配置的，交易费用理论表明交易活动是稀缺的，市场的不确定性导致交易也是冒风险的，因而交易也有代价，从而也就有如何配置的问题。资源配置问题就是经济效率问题。所以，一定的制度必须提高经济效率，否则旧的制度将会被新的制度所取代。这样，制度分析才被认为真正纳入了经济学分析之中。
（三）产权理论
新制度经济学家一般都认为，产权是一种权利，是一种社会关系，是规定人们相互行为关系的一种规则，并且是社会的基础性规则。产权经济学大师阿尔钦认为：“产权是一个社会所强制实施的选择一种经济物品的使用的权利。”这揭示了产权的本质是社会关系。在鲁宾逊一个人的世界里，产权是不起作用的。只有在相互交往的人类社会中，人们才必须相互尊重产权。
产权是一个权利束，是一个复数概念，包括所有权、使用权、收益权、处置权等。当一种交易在市场中发生时，就发生了两束权利的交换。交易中的产权束所包含的内容影响物品的交换价值，这是新制度经济学的一个基本观点之一。
产权实质上是一套激励与约束机制。影响和激励行为，是产权的一个基本功能。新制度经济学认为，产权安排直接影响资源配置效率，一个社会的经济绩效如何，最终取决于产权安排对个人行为所提供的激励。
（四）企业理论
科斯运用其首创的交易费用分析工具，对企业的性质、边界以及企业与市场并存于现实经济世界这一事实做出了先驱性的解释，将新古典经济学的单一生产制度体系————市场机制，拓展为彼此之间存在替代关系的、包括企业与市场的二重生产制度体系。科斯的企业理论，升华了对资本主义和商品经济的认识，在凯恩斯革命之后，延续了资本主义制度的生命。
科斯认为，市场机制是一种配置资源的手段，企业也是一种配置资源的手段，二者是可以相互替代的。在科斯看来，市场机制的运行是有成本的，通过形成一个组织，并允许某个权威（企业家）来支配资源，就能节约某些市场运行成本。交易费用的节省是企业产生、存在以及替代市场机制的惟一动力。
而企业与市场的边界在哪里呢？科斯认为，由于企业管理也是有费用的，企业规模不可能无限扩大，其限度在于：利用企业方式组织交易的成本等于通过市场交易的成本。
（五）制度变迁理论
制度变迁理论是新制度经济学的一个重要内容。其代表人物是美国新经济学史学家道格拉斯·诺斯，他强调，技术的革新固然为经济增长注入了活力，但人们如果没有制度创新和制度变迁的冲动，并通过一系列制度（包括产权制度、法律制度等）构建把技术创新的成果巩固下来，那么人类社会长期经济增长和社会发展是不可设想的。总之，诺斯认为，在决定一个国家经济增长和社会发展方面，制度具有决定性的作用。
制度变迁的原因之一就是相对节约交易费用，即降低制度成本，提高制度效益。所以，制度变迁可以理解为一种收益更高的制度对另一种收益较低的制度的替代过程。产权理论、国家理论和意识形态理论构成制度变迁理论的三块基石。制度变迁理论涉及制度变迁的原因或制度的起源问题、制度变迁的动力、制度变迁的过程、制度变迁的形式、制度移植、路径依赖等。中国经济学家林毅夫认为，制度变迁可分为强制性变迁和诱导性变迁两种类型，发展了制度变迁理论，对于中国近代社会转型问题，提供了极好的理论工具。
科斯的原创性贡献，使经济学从零交易费用的新古典世界走向正交易费用的现实世界，从而获得了对现实世界较强的解释力。1962年，科斯曾预言苏联高度计划体制会导致社会资源的过度浪费，寿命必然不会超过30年，结果1991年苏联就解体了，当年科斯获得诺贝尔经济学奖。经过威廉姆逊等人的发挥和传播，交易费用理论已经成为新制度经济学中极富扩张力的理论框架。引入交易费用进行各种经济学的分析是新制度经济学对经济学理论的一个重要贡献，至2009年，正交易费用及其相关假定已经构成了可能替代新古典环境的新制度环境，正在影响许多经济学家的思维和信念。
