魏、晋时期出现的玄学，不为汉儒经学束缚，思想比较活跃;它诘辩求胜，又能运用逻辑思维，分析义理，这些都有利于数学从理论上加以提高。吴国赵爽注《周髀算经》，汉末魏初徐岳撰《九章算术》注，魏末晋初刘徽撰《九章算术》注、《九章重差图》都是出现在这个时期。赵爽与刘徽的工作为中国古代数学体系奠定了理论基础。
赵爽是中国古代对数学定理和公式进行证明与推导的最早的数学家之一。他在《周髀算经》书中补充的“勾股圆方图及注”和“日高图及注”是十分重要的数学文献。在“勾股圆方图及注”中他提出用弦图证明勾股定理和解勾股形的五个公式;在“日高图及注”中，他用图形面积证明汉代普遍应用的重差公式，赵爽的工作是带有开创性的，在中国古代数学发展中占有重要地位。
刘徽约与赵爽同时，他继承和发展了战国时期名家和墨家的思想，主张对一些数学名词特别是重要的数学概念给以严格的定义，认为对数学知识必须进行“析理”，才能使数学著作简明严密，利于读者。他的《九章算术》注不仅是对《九章算术》的方法、公式和定理进行一般的解释和推导，而且在论述的过程中有很大的发展。刘徽创造割圆术，利用极限的思想证明圆的面积公式，并首次用理论的方法算得圆周率为 157/50和 3927/1250。
刘徽用无穷分割的方法证明了直角方锥与直角四面体的体积比恒为2:1，解决了一般立体体积的关键问题。在证明方锥、圆柱、圆锥、圆台的体积时，刘徽为彻底解决球的体积提出了正确途径。
东晋以后，中国长期处于战争和南北分裂的状态。祖冲之父子的工作就是经济文化南移以后，南方数学发展的具有代表性的工作，他们在刘徽注《九章算术》的基础上，把传统数学大大向前推进了一步。他们的数学工作主要有：计算出圆周率在3.1415926～3.1415927之间;提出祖暅原理;提出二次与三次方程的解法等。
据推测，祖冲之在刘徽割圆术的基础上，算出圆内接正6144边形和正12288边形的面积，从而得到了这个结果。他又用新的方法得到圆周率两个分数值，即约率22/7和密率355/113。祖冲之这一工作，使中国在圆周率计算方面，比西方领先约一千年之久;
祖冲之之子祖暅总结了刘徽的有关工作，提出“幂势既同则积不容异”，即等高的两立体，若其任意高处的水平截面积相等，则这两立体体积相等，这就是著名的祖暅公理。祖暅应用这个公理，解决了刘徽尚未解决的球体积公式。
隋炀帝好大喜功，大兴土木，客观上促进了数学的发展。唐初王孝通的《缉古算经》，主要讨论土木工程中计算土方、工程分工、验收以及仓库和地窖的计算问题，反映了这个时期数学的情况。王孝通在不用数学符号的情况下，立出数字三次方程，不仅解决了当时社会的需要，也为后来天元术的建立打下基础。此外，对传统的勾股形解法，王孝通也是用数字三次方程解决的。
唐初封建统治者继承隋制，656年在国子监设立算学馆，设有算学博士和助教，学生30人。由太史令李淳风等编纂注释《算经十书》，作为算学馆学生用的课本，明算科考试亦以这些算书为准。李淳风等编纂的《算经十书》，对保存数学经典著作、为数学研究提供文献资料方面是很有意义的。他们给《周髀算经》、《九章算术》以及《海岛算经》所作的注解，对读者是有帮助的。隋唐时期，由于历法的需要，天算学家创立了二次函数的内插法，丰富了中国古代数学的内容。
算筹是中国古代的主要计算工具之一，它具有简单、形象、具体等优点，但也存在布筹占用面积大，运筹速度加快时容易摆弄不正而造成错误等缺点，因此很早就开始进行改革。其中太乙算、两仪算、三才算和珠算都是用珠的槽算盘，在技术上是重要的改革。尤其是“珠算”，它继承了筹算五升十进与位值制的优点，又克服了筹算纵横记数与置筹不便的缺点，优越性十分明显。但由于当时乘除算法仍然不能在一个横列中进行。算珠还没有穿档，携带不方便，因此仍没有普遍应用。
唐中期以后，商业繁荣，数字计算增多，迫切要求改革计算方法，从《新唐书》等文献留下来的算书书目，可以看出这次算法改革主要是简化乘、除算法，唐代的算法改革使乘除法可以在一个横列中进行运算，它既适用于筹算，也适用于珠算。