要弄清法律论证是什么，首先必须弄清“推理”（reasoning）、“推论”(inference)和“论证”(argument)的关系。有学者都把这三个概念不加区别地使用，甚至有学者认为它们实际上就是同一个东西。非形式逻辑学家的观点则不同，比如，Walton就把它们两两之间作了严格的区分。在Walton看来，推论是一组命题，其中一个命题叫做结论，其它的命题叫做前提，所谓推论就是指从前提到结论的思维过程；推理是一个链接在一起的推论序列，在这个推论链中，一个推论的结论充当下一个推论的前提；论证是一个推理序列，包含了一系列推理，且一个推理的结论也许充当了下一个推理的前提。它们三者共同之处是，推理、推论和论证都是由前提和结论两部分构成；而不同之处在于，推论之中只有一个结论，而推理与论证可以包含多个结论。我们可以把它们三者的关系描述为：一个论证可以包含有很多推理，而一个推理又可以包括许多推论；推论存在于推理之中，推理存在于论证中。当然，并不是所有推理都存在于论证之中，推理还有解释中的推理和论证中的推理之分。因此，我们在使用以上三个概念时，不能把它们混为一谈。此外，论证也不同于证明，论证包括证明（Justification）和反驳（Refutation）两种形式，因而，我们不能把法律证明与法律论证当做同一概念来使用。
在翻译时，有学者把“Argument”和“Argumentation”都翻译为“论证”，也就是把论证和论辩当作同一概念来使用。我们知道，论证和论辩虽然有着密切的联系，但它们二者实际上不能等同。根据Walton的观点，论证有对话式论证(dialectical argument)与非对话式论证(non-dialectical argument)之别。象计划、解决问题这类活动中的论证就是属于非对话式论证，而象法律诉讼、学术研讨会、公司董事会议、医疗会诊等这类活动中的论证就是属于对话式论证。由于对话式论证之中存在观点的分歧，论证参与者在力图为自己的主张作辩护的同时，又在反驳其他论证参与者的关于其主张的论证，因此，对话式论证包含着一个动态的论争过程。基于这个原因，我们有时把对话式论证称为“论辩”。论辩只是论证的一种特殊形式。论辩与论证之间的联系与区别表现：一方面，论辩不仅总是包含着论证，而且至少包含了两个论证，因为在论辩中至少有两个论证参与者，每个参与者都会有一个关于其主张的论证，但论证未必包含论辩，如非对话式论证；另一方面，论证是静态的成果，论辩则是动态的过程。
无论是在西方还是我国，作为一个概念，“法律论证”都已经被人们广泛地使用。但其内涵与外延是什么呢？也是一个比较含混的问题。目前国内的主流观点往往把“法律论证”看成是由英文单词“legal argumentation”翻译而来，而把本来应当译为“法律论证”的“legal argument”却被译为“法律证据或法律争论”。根据前面的分析，这样的理解显然有失偏颇，准确地说，应当把“legal argumentation”和“legal argument”分别译为“法律论辩”和“法律论证”。正如前面所分析的那样，法律论证是一项静态的成果，而法律论辩则是一个动态的过程，因此，法律论证不能等同于法律论辩。但我们也要看到，法律论证总是通过法律论辩来实现的，甚至可以说，法律论辩是法律论证的语境。
法律论证是属于法律方法论范畴呢还是属于法律逻辑范畴？这也是学者们争论的一个热点问题。从目前的文献资料来看，与法律推理一样，法律论证主要是在法理学范围作为法律方法论来进行研究的，因此，有学者把它归入法理学的法律方法论范畴之列。也有学者企图提出有别于法理学的法律方法论范畴之法律论证。我们认为，作这样严格区别实际上是没有必要的。事实上，法理学的法律方法论所研究的法律论证就是把它们当作法律方法来研究的，法律逻辑实际上也是在研究一种法律方法。因此，作为法理学的法律方法论范畴的“法律论证”与作为法律逻辑范畴的“法律论证”实际上应该是同一个东西。
那么，为什么有学者把作为法理学的法律方法论范畴的“法律论证”与作为法律逻辑范畴的“法律论证”严格区分开来呢？主要是因为传统上对“逻辑”的理解往往只局限于语义层面和语形层面。周礼全先生认为，“形式逻辑要在提高人们的思维能力方面起重要作用，就必须和自然语言相结合，就必须和语形、语义和语用相结合，……”。虽周先生说的形式逻辑，但实际上他指出了逻辑应当有三个层面，即语义层面、语形层面和语用层面，其中前两者是理论层面，而后者是应用层面。正是由于传统上对逻辑的理解往往局限于语义和语形层面，因而人们往往无法解释法律领域的推理与论证问题。于是有些法律逻辑专家便力图把作为法律方法论范畴的“法律论证”与作为法律逻辑的“法律论证”严格区别开来。其实，只要我们跳出语义层面和语形层面，站在语用层面的角度，我们就能很好解释这个问题了。不管是法律方法论还是法律逻辑，它们所研究的“法律论证”实际上就是同一样东西。
本文所讨论的法律论证将是基于狭义法律论证的，即法律诉讼中的法律论证。McCarthy认为，“法律论证”（legal argument）有主张（claim）、事实（facts）和回答（answer）三个要素，其中“回答”有“肯定”和“否定”两种形式。他实际上讲的就是狭义的法律论证。
