几位的回答都有不少问题。@孙龄杰说沙尘和雾霾的本质不同在于颗粒粒径，是不准确的；说「平均粒径」可能更好一些。我给一张11年测定的北京市雾霾天和沙尘天的PM2.5浓度图[1]：
图中可见，两种天气都有相当高的PM2.5浓度，且相差无几（日均质量浓度分别为301.8 ug/m3 和284.8 ug/m3）。不过雾霾天相较沙尘天，细颗粒物占总颗粒物的比例更高，因此平均粒径较小。
两者间显著的区别在于颗粒物来源不同。雾霾天，PM2.5的首要来源多是二次颗粒物（二氧化硫、氮氧化物、碳氢化合物等经光化学反应生成的无机盐气溶胶、有机气溶胶），空气中的水为光化学反应发生和生成物积累提供了良好媒介；但并非所有雾霾天都如此，有一些时空上的差异。而沙尘天PM2.5的首要来源是土壤尘。
来源不同的颗粒物形态有异。二次颗粒物多为规则型（球形等），沙尘颗粒物主要是不规则型。
当然，雾霾天的PM2.5也有一小部分源于地表扬尘，沙尘天的PM2.5也可能有燃煤、工业源、二次源、尾气源的贡献。沙尘源地通常位于新疆、蒙古等地表破碎度高的内陆地区，其传输距离越长，途经城市越多，所携带的人为源污染物就越多，对人体危害也相应更大。
另一个不同，雾霾发生需要稳定的大气层结和较高的湿度，而沙尘暴往往伴随干燥大风天气，势头猛、消散快。但沙尘里亦包含大量细颗粒物，传输过程中如遇合适的气象条件，可能与人为源污染物混合成霾。从这个角度讲，两者有「相辅相成」的一面。
植被固沙是目前防治沙尘暴的主要手段，对于治理雾霾亦有贡献。这种贡献不在于吸附颗粒物，而在于固着水土、减少地表扬尘。但正如上文所述，雾霾天的PM2.5更大比例来自人为污染源，仅仅防风固沙作用不大。
另外，沙尘暴的发生和沙尘的输送有赖于气象条件，历史上本就时多时少，几年间有所波动未必是环境治理的功劳。
[1].北京典型污染过程PM_(2.5)的特性和来源_CNKI学问
