语言是一切文学的源头，一定的语言形式对应着一定的文学精神。甲寅派反对白话、维护文言，其根本出发点在于维护文言文所负载的精神传统。章士钊说：“吾之国性群德，悉存文言，国苟不亡，理不可弃。”(章士钊：《评新文学运动》。)围绕着这一出发点，甲寅派逐一批判了新文化运动所倡导的语言观。
章士钊认为文言文有着白话文所无法比及的表意系统和应用基础，“文言贯乎数千年，意无二致，人无不晓”，“二千年外之经典，可得朗然诵于数岁儿童之口”，而白话文“诵习往往难通”(章士钊：《评新文学运动》)。他觉得文言文高雅典丽，“今之白话文，差足为记米盐之代耳”，“作白话而欲其美，其事之难，难如登天”。(章士钊：《答适之》。)瞿宣颖在《文体说》中称，“欲求文体之活泼，乃莫善于用文言”。他甚至公开提出取消“白话文学“这一名词。甲寅派这样为文言文张目，招来新文化阵营的批判。鲁迅分析了章士钊的“得意之笔”(鲁迅：《答KS君信》，《莽原》周刊第19期（1925年8月28日）。)，订正了章士钊对“二桃杀三士”的解释(鲁迅：《再来一次》，《莽原》半月刊第11期（1926年6月10日）。)，借此反击了甲寅派“文言优长”的论调。
新文化运动以西方语法为参照，试图创建逻辑严密、语法清晰、能够准确表达复杂思想的现代白话。胡适认为文言文的句法过于繁难，不利于普遍的推广。章士钊治逻辑出身，却反对对中国语言进行逻辑改造，他声称“文法者非逻辑也，约定俗宜，即为律令，从而轩轾，其道无由”。甲寅派没有回答“约定俗宜”的东西为何就不能更改。新文化运动主张言文统一，强调“我手写我口”，力图通过解决语言学习上的困难，来摧毁语言客观上的阶级性。章士钊却认为，语言学习只是个人性问题，“去贵族平民之辩万里也”，“废手书而用口述，使所谓工具者，无可更加浅近，亦只便于佻达不学者之恣肆耳。”(章士钊：《评新文学运动》。)章士钊以个人性否定普遍性，没有正视言文统一所包含的现代意义，也没有审思白话文对思维方式的改变。而他对言文统一后果的臆测，则反映了他以精英自居的姿态。
虽然甲寅派一直极力维护文言文反对白话文，虽然他们也常为自己的文言文写作自鸣得意，但鲁迅还是看出了在白话文逐渐成熟的年代里，他们维护文言文是出于“瞒”和“骗”：“但偶然见到他所发表的‘文言’，知道他于法律的不可恃，道德习惯的并非一成不变，文字语言的必有变迁，其实倒是懂得的，懂得而照直说出来的，便成为改革者；懂得而不说，反要利用以欺瞒别人的，便成为‘孤桐，先生，及其‘之流’。他的保护文言，内骨子也不过是这样。”(鲁迅：《再来一次》，《莽原》半月刊第11期（1926年6月10日）。)鲁迅之外，郁达夫等人也曾撰文批驳学衡派的语言观。(参见《中国新文学大系·文学论争集》：郁达夫《咒〈甲寅〉十四号〈评新文学运动〉》、成仿吾《读章氏〈评新文学运动〉》、健攻《打倒国语运动的拦路虎》、荻舟《驳瞿宣颖君〈文体说〉》、唐钺《文言文的优胜》等，上海良友图书印刷公司1935年。)
