从19世纪中叶开始，许多数学家和语言学家进行了用数学方法研究语言学问题的实践，获得了许多重要结果。20世纪中叶电子计算机刚刚发明，人们就开始了用计算机进行机器翻译的尝试，从而需要对构词法和句法进行分析研究，数学方法的引入，极大地推动了这些研究向精确化、算法化的方向发展。此后，对计算机高级程序语言的研究，对语音的自动合成与分析的研究，以及文字识别计算的进展，都大大促进了数学和语言学的结合，形成了一门新兴学科——数理语言学。数理语言学用数学方法研究语言现象，并加以定量化和形式化的描述，既研究自然语言，也研究各种人工语言（如计算机语言）。它包括三个主要分支：①统计语言学，或称计量语言学，主要工作是应用统计程序来处理语言资料，如统计语言单位（音素、字母或词汇项）的出现频率；研究作者的文体风格（计算风格学）；在比较语言学中采用数学公式，衡量各种语言的相关程度；在历史语言学中确定不同时期语言发展的特征；用信息论观点分析语言信息的传输过程等等。②代数语言学，或称形式语言学，它对传统的语言学概念进行严格的逻辑分析，借助数学和逻辑学方法提出精确的语言模型，运用形式模型对语言进行理论上的分析和描写，把语言学（或它的某个方面）改造成为现代科学的演绎系统，使之适于用计算机处理。③算法语言学，它把语言看做由一系列层次组成，各层次本身都有一定的结构形式，各层次之间都有一定的对应关系。它把底层（如音位、词序、形式语句）结构作为一种抽象的符号系统来处理，通常采用图论中的树形图作为分析表达工具，以便从表面的语言现象中挖掘出它的潜在本质，以解决一些形式语言学难以解决的问题。数理语言学中使用了概率论与数理统计、数理逻辑、集合论、图论，以及信息论方法、公理化方法、数学模型方法、模糊数学方法等一系列数学理论与方法，取得了许多出人意料而又令人叹服的研究结果。例如，使用计算风格学方法，确认了肖洛霍夫就是《静静的顿河》的原作者，解决了苏联现代文坛的一大疑案；使用这一方法在对《红楼梦》的作者和成书过程等问题的研究上也得出了许多有价值的结论。