本幅画与范宽《溪山行旅图》不同，近、中、远三景并未全部放在画幅的中轴线上，而是将近景的松石、茅舍移至画面右下角，中间以广袤的水域隔开，与左上方体积庞大的远景主山相对。画家采用“平远”和对角线的构图设计，与宋人《岷山晴雪》十分类似，都受到北宋末流行的小景山水画的影响，这暗示《匡庐图》的成画年代应晚於十一世纪。
主峰由垂直片状的山体结组而成，山石的轮廓用尖锐转折的笔法勾勒，边缘整齐，彷佛刀切割过，渲染则是在巖面内侧施浓墨，靠近轮廓的外侧留白。这一类山巖的造型、笔描与南京栖霞山出土的十世纪浮雕，或是传世贯休《十八罗汉图》上的山石相近，带有平面、程式化的风格，因此显现出浓厚的仿古意味。
描绘山石的皴法是从范宽变化而来，画家以密如雨点的皴纹，刻划岩石粗砺坚硬的质理。然而，除了点、擢的中锋用笔外，还可见到侧锋斜砍的笔法。这种“小斧劈”皴的使用，在李唐《万壑松风图》可以见到典型的例子，显示《匡庐图》与北宋末宫廷画院的风格密切相关。
