他把从上古时起直至他生活的时代止的各种文献、记录、资料，几乎全都搜罗来进行考察。
同时，主张决不“虚推古人”，决不把自己束缚在古人陈腐的错误结论之中，并且亲自进行精密的测量和仔细的推算。
像他自己所说的那样，每每“亲量圭尺，躬察仪漏，目尽毫厘，心穷筹策”。
由于祖冲之博学多才的名声，被南朝宋孝武帝派至当时朝廷的学术研究机关华林学省做研究工作，后来又到总明观任职。
当时的总明观是全国最高的科研学术机构，相当于现在的中国科学院。总明观内分设文、史、儒、道、阴阳五门学科，实行分科教授制度，请来各地有名望的学者任教，祖冲之就是其一。
祖冲之算出圆周率的真值精确到小数第七位，也因此入选世界纪录协会世界第一位将圆周率值计算到小数第七位的科学家。
祖冲之对圆周率数值的精确推算值，对于华夏乃至世界是一个重大贡献，后人将“约率”用他的名字命名为“祖冲之圆周率”，简称“祖率”。
除了数学上的贡献，祖冲之还改革闰法。
在古代，华夏的历法家把十九年定为计算闰年的单位，称为“一章”，在每一章里有七个闰年。也就是说，在十九个年头中，要有七个年头是十三个月，这种闰法一直采用了一千多年。
后北凉赵厞创作《元始历》，才打破了岁章的限制，规定在六百年中间插入二百二十一个闰月。
祖冲之吸取了赵厞的理论，加上他自己的观察，认为十九年七闰的闰数过多，每二百年就要差一天，而赵厞六百年二百二十一闰也不十分准确。
因此，祖冲之提出了新闰法。
祖冲之的闰周精密程度极高，按照他的推算，一个回归年的长度为365.2428141日，与今天的推算值仅相差46秒。一直到南宋的《统天历》，才采用了比这更精确的数据。
祖冲之在我国天文学史上第一次提出，月亮相继两次通过黄道、白道的同一交点的时间长度为27．2123日，与现今推算值仅相差十万分之一日，即不到1秒，由于日食、月食，都发生在黄白交点附近，所以祖冲之的交点月长度对于日月食预报具有十分重要的意义。
推算出交点月的日数以后，就更能准确地推算出日蚀或月蚀发生的时间。祖冲之在他制订的《大明历》中，应用交点月推算出来的日、月蚀时间比过去准确，和实际出现日、月蚀的时间都很接近。