祖冲之在数学上的杰出成就,是关于圆周率的计算.秦汉以前,人们以"径一周三"做为圆周率,这就是"古率".后来发现古率误差太大,圆周率应是"圆径一而周三有余",不过究竟余多少,意见不一.直到三国时期,刘徽提出了计算圆周率的科学方法--"割圆术",用圆内接正多边形的周长来逼近圆周长.刘徽计算到圆内接96边形

求得π=3.14,并指出,内接正多边形的边数越多,所求得的π值越精确.祖冲之在前人成就的基础上,经过刻苦钻研,反复演算,求出π在3.1415926与3.1415927之间.并得出了π分数形式的近似值。