1996年,他以过硬的军事素质、优秀的身体条件和一流的飞行技能被选拔到中国人民解放军航天员大队进行训练。1996年11月,他和李庆龙被派往俄罗斯莫斯科星城加加林太空训练中心接收训练,训练结束后,由于成绩出色,被授予联盟号飞船指令长最高证书,成为唯一一位获得此荣誉的非俄罗斯人。一年后他们回国,成为神舟计划第一批宇航员的教官。全部训练结束时,吴杰以4+的优异成绩获得由7名专家组成的评审委员会全票通过。从俄罗斯归来,吴杰也正式由最初的地面航天员教练员成为预备航天员。他为中国的航天员训练提出了许多非常宝贵的经验。
“神舟”五号归来后,中央电视台的《新闻会客厅》栏目曾将首飞航天员杨利伟、第一梯队航天员聂海胜、翟志刚以及他们的教练员吴杰、李庆龙请到节目现场,接受主持人白岩松的专访,让全国观众领略了航天英雄的风采。
“神七如果擦肩而过,还是往后等,神七、神八、神九,只要我没有脱离航天员队伍,我就有这么一种希望,我就会去尽我百倍的努力。”