温家宝总理在2009年教师节的讲话《百年大计，教师为本》中特别指出，“高等学校改革和发展归根到底是多出拔尖人才、一流人才、创新人才。”建国60年以来，中国科技实力的进步令全世界有目共睹。作为一个研发集团的领军人物，张亚勤一直在思索中国教育的现状和未来，他认为未来30年中国的教育和过去60年里将截然不同，教育和科研将决定中国的未来。要缩短中国与欧美发达国家在科技实力上的差距，就必须培养具有全球化背景的领军人物，培养“思想的领导者”，这样才能带领中国的科技创新走向更高层次。
早在上世纪90年代末，成立伊始的微软中国研究院就展开了一系列针对高校和科研机构的帮扶计划和活动，为高校和科研机构的师生和学者在使用微软技术和产品方面提供资金和科技援助，同时将微软亚洲研究院最新的研究成果介绍给高校和科研机构。具体包括：技术讲座和科研成果交流、课程建设、软件和资料捐赠、联合实验室、暑期技术培训班、赞助高校学术活动、微软学者奖学金计划，以及与国家自然科学基金委员会信息科学部联合对国家自然科学基金的基础研究项目进行资助计划等。
在研究院成立后短短的一年多时间里，研究院就组织了各种类型的技术交流与讲座90多场次，参加者达到5万多人次；向国内几十所大学捐赠了价值超过2500万元人民币的微软最新软件；与清华大学、浙江大学和哈尔滨工业大学合作，成立了“微软—清华多媒体实验室”、“微软—浙大视觉感知实验室”和“微软—哈工大机器翻译实验室”。
张亚勤自己也很享受回到校园与大学生交流的过程。每次去高校演讲，他准备得都十分认真，针对每所高校的特点作出相应安排。自己在中科大、乔治·华盛顿大学、GtE、桑纳福以及微软的经历使他明白，一个学生之所以成为人才，每一步都需要专业素养和品格素养优秀的导师加以引导。作为过来人而且还有能力的张亚勤乐意和中国学生分享他的经验。
对中科大的水上报告厅，每个科大人都很有感情，每每有大师莅临科大，校方都会在这里组织讲座。在学校的时候，张亚勤也是这里的常客。他还清晰地记得“黑洞理论之父”霍金，以及一位日本的诺贝尔化学奖得主在水上报告厅的讲座。“记得霍金是因为这位科学家几乎挑战了人类智力和体力的极限，记得日本化学家是因为我不懂化学，更不懂日语，当时在没有翻译的情况下，整个报告厅的所有同学没人离开，反倒是不停地鼓掌。科大学生的求知若渴可见一斑。”回忆起30年前占座听报告的情景，张亚勤至今都感觉意犹未尽。
阔别母校十几年后，以微软中国研究院首席科学家的身份，张亚勤也站在了报告厅的讲台上。那也是他回国后访问的第一所学校。一进报告厅他就发现，这么多年过去了，中科大举办讲座时的风格依旧如昨—整个报告厅被挤得水泄不通，不少学生在过道里席地而坐。由于想进来一睹这位“神童”校友的同学太多，连报告厅厚厚的玻璃门也被挤碎了。面对此情此景，张亚勤说自己感动之余更多的是忐忑：“我觉得自己做得还不够，学生们的需求十分迫切，我其实应该做得更好。”
张亚勤12岁到19岁的时光都在中科大度过。1999年，在离别母校13年后，张亚勤重访中科大。
当时陪同张亚勤的是时任微软中国研究院商务及高校关系高级经理的陈宏刚。如今，谈起那次去科大的情景，他依然感慨万千：“亚勤所做的每件事、所提出的每个建议，都能让大家深刻地感受到他是从心底爱学校、爱学生。”
尽管已经是学生们心目中“神话”一样的人物，但张亚勤并不希望自己身上的“天才”光芒误导大家，他说：“绝大多数人在智力上的差距其实是微不足道的，真正重要的是如何用好自己的聪明才智。当下是一个大变革大发展的时代，大学生们既面临着压力，也拥有太多前所未有的机遇。同学们要善于把握机会，我希望大家不仅拥有一份对未知的好奇心，一份不断探求的激情，更要脚踏实地打好基础。最重要的是培养自己坚韧的品格。”
诚如梁启超在中所云：少年智则国智，少年富则国富，少年强则国强。张亚勤认为，要缩短中国与欧美发达国家在科技实力上的差距，就必须要培养具有全球化背景的领军人物，培养“思想的领导者”，这样才能带领中国的科技创新走向更高层次。
当年进入科大少年班的时候，这些小神童都是先学习一年之后，再确定自己未来的专业，但现在“很多教师和父母在指导孩子选择自己专业的方向的时候，非常看重这个专业的就业机会和未来薪资的高低，学生很难根据兴趣去选择。”何为大学？大学必有大学问家，中国的教育需要真正的教育家、大师。大学是思想驰骋的乐土，学者要为了真正的学术理想而潜心钻研。这个过程很艰辛、很痛苦，但和成功之后收获的快乐相比，挑战的过程也就不在话下了。
高锟教授获得诺贝尔奖给张亚勤带来很多思索：高锟教授研究光纤时，根本没想过会得诺贝尔奖，也没想过申请专利，完全是按照自己的兴趣作研究。只有这样才能作出真正有价值的研究。归根结底，一个民族不可以没有梦想。
至今，回想起自己8年的中科大生活，张亚勤心中都会是一片朦胧的、温暖的淡黄色调—那是激情洋溢的80年代，那是梦想引领现实的80年代。在物理学博士都转行去华尔街做对冲模型的时候，国家需要有开放的视野和长远的心态，培养民族创新的温床。有正确的理想和价值观，有好的体系和机制，加上长远的心态和开放的视野，中国的科技实力一定会越来越强。在未来全球的竞争中，科技实力决定了国家的未来，获奖与否都是次要的。