到达敦煌后，段文杰完全被莫高窟那精美的壁画吸引住了，他一头扎进壁画临摹中，忘记了敦煌生活的艰辛。

　　莫高窟环境、气候之恶劣，工作条件之艰苦，一般人难以想象。夏天干热高温，冬天风卷黄沙，打得人睁不开眼睛。用的是土桌、土凳，喝的是宕泉河的碱水，没有大米，少有蔬菜，工资不能按时发放，交通也极不便利。莫高窟就像沙漠中的荒岛，三五个月进不了敦煌城是常事。段文杰他们最初的好几年都住在由马厩改造成的简易房间里。和段文杰同来的人中，不久就有因为受不了恶劣的条件而离开的。此后不断有人来，又有人离开。

　段文杰从来没有动过离开敦煌的念头，即使在“文革”中被开除公职，下放到敦煌农村锻炼的两年里也没想过。

　　段文杰在国立艺专时受到过良好的绘画教育，画坛名家吕风子、潘天寿、林风眠、傅抱石、李可染、黎雄才等都曾是他的老师。他扎实过硬的绘画功底和丰富的学识，很快得到常书鸿的赏识，他被任命为敦煌艺术研究所考古组代组长，负责壁画临摹和石窟编号等工作。

　　从1946年开始，段文杰共临摹各洞窟不同时期的壁画340多幅，面积达140多平方米。这一成绩在敦煌莫高窟个人临摹史上创下了第一。他的代表作之一《都督夫人礼佛图》，原画中人物表情及衣饰都模糊难辨，临摹难度极大。段文杰反复观察考证洞窟中的供养人图像，查阅了大量相关历史资料，并进行了多次实验练习，经过4个月才完成了这幅巨型壁画的临摹。

　　段文杰的临摹方法与张大千不同。张大千的敦煌壁画临本，随意性较大，带有个人创作的成分；段文杰敬仰张大千，但他主张临本应该忠实于原作。临摹跟翻译一样，都是一种再创作，要想在临摹作品中传达出古人的精神，并不比创作容易。他主张，临摹一要客观忠实地再现原作面貌；二要传神，即在精细的基础上突出原作总体神韵；三是绘画技巧不能低于原作水平。这些由他在二十世纪五十年代提出的方法，至今仍然是敦煌壁画临摹的指导原则。

　　1947年和1948年，段文杰他们对莫高窟洞窟进行了一次全面的编号、测量和内容调查，他们做的洞窟编号被认为是最完整和科学的，至今仍在沿用。

　　历时3年的莫高窟第285窟临摹，是段文杰主持的敦煌壁画临摹史上第一座整窟原大壁画现状临摹。1955年国庆节，敦煌壁画临品在北京故宫展出，以285窟原大临本模型、大量巨幅临本、精美的图案为三大亮点，引起轰动。预展那天，国家文物局局长王冶秋亲临现场，他说：“这个窟临摹得与原窟一模一样，我去敦煌看过这个洞子。”

　　曾与段文杰共事近40年的敦煌研究院美术研究所前所长关友惠说：“段文杰从1946年开始就带领大家进行临摹，他制定的临摹方法一直是我们临摹敦煌壁画的指导原则，他个人在敦煌壁画临摹史上也创立了多个第一，他是我们敦煌壁画临摹工作当之无愧的领路人。”