海军的主要部分是它的舰艇。通常分为战斗舰艇、登陆作战舰艇和勤务舰船几类。
战斗舰艇是装备有专用武器、直接进行海战的舰艇，包括水面战斗舰艇和潜艇。如果细分，那么接执行的基本任务不同，区分为航空母舰、战列舰、巡洋舰、驱逐舰、护卫舰、鱼雷艇、导弹艇、猎潜艇、水雷舰、巨水雷舰和登陆艇等；接排水量、武器装备不同，分为不同的舰级；在同一舰级中按外型、构造和战术技术性能不同，又分为不同的舰型。
一般排水量在500吨以上称为舰，小于500吨的称为艇。不过潜水艇不论排水量大小，习惯上都称艇。舰艇的动力装置现在除了常规动力外，不少已改为核动力型的了。
世界上有国家近200个，多数国家都有靠海的一面，也有四面全是海的，像澳大利亚、新西兰、英国、日本这样的国家。这些国家大都建设有海军，规模、人数有大有小。
最大的海军国家是美国和俄罗斯，它们的水面舰艇主要是航空母舰，水下的核潜艇和常规潜艇占了全世界这两类舰艇的一半以上。有一些国家的陆军、国民警卫队也装备有舰艇，吨位不大，主要作内河和近海的巡逻、运输用的。
海军的舰艇和民用船只的区别不在吨位大小，主要是船体的坚固结构、航速、抗沉、耐波程度不同。再就是侦察、通信和导航系统一般船只没有海军舰艇那样齐全、先进。民用船只也不装备武器。
但是一战时，民用船只被证调用于打仗，过去和现在的例子都不少。1949年中国人民解放军渡海解放海南岛之战，就使用了大量民用船只，还创造了木船打兵舰的战例。
1991年海湾战争中，美国曾调动170艘商船，租用外籍船只78艘，用来运输各类物资。民用船只一般作勤务船只用，以弥补海军这类船只的不足。