跟蹤誤差指的是指數基金收益率與標的指數(或基準)收益率之間偏差的波動情況，跟蹤誤差越大，說明基金的淨值收益率與標的指數收益率之間的差異越大。作為指數基金評價最重要的指標之一，很多投資者對跟蹤誤差是怎麼形成的並未完全了解。跟蹤誤差的主要原因在於三個方面：(一)基金大額申購贖回導致的倉位變化。(二)股票停牌估值調整(三)其它原因。
(一)基金大額申購贖回導致的倉位變化
(1)大額申購對指數跟蹤誤差的影響 。大額申購對於指數基金的影響主要在於稀釋基金次日漲跌幅。例如，2015年10月23日中證醫療指數漲幅4.86%，而跟蹤該指數的廣發中證醫療指數基金當日淨值漲幅僅為1.61%，差異原因在於22日有大額申購，當日申購的資金享受次日的漲跌幅，但由於資金結算原因，該筆資金第二天尚未到帳，基金經理無法及時建倉，所以稀釋了當天基金的漲幅。同理，如果第二天指數大跌，大額申購資金也會稀釋當天基金的跌幅。
(2)大額贖回對指數跟蹤誤差的影響 。大額贖回對於指數基金淨值影響主要表現在兩方面：第一方面，贖回發生的贖回費對於基金淨值的影響。第二方面，贖回賣出的價格對指數基金的影響。
贖回費對基金淨值的影響：由於基金合同一般規定贖回費歸入基金淨資產的部分不低於不低於25%，這是對繼續持有者的保護。贖回賣出的價格對指數基金的影響：由於投資者贖回的份額按照當天的收盤淨值確認，但是對應的贖回倉位一般是要次日之後才賣出，由於賣出價與當日收盤價存在偏差，故也會對次日基金淨值產生影響。
(二)停牌票估值調整對指數跟蹤誤差的影響
由於現時規定長期停牌的股票要按照證監會行業指數進行估值調整，而指數不會對停牌票進行估值調整，因此二者之間的差異可能產生跟蹤誤差。另外停牌票復牌後，由於用指數收益法調整的股票估值和實際交易價格可能有較大偏差，也會導致當天基金淨值和指數漲跌幅產生偏差。
(三)其它原因
除以上提及的原因外，影響指數基金跟蹤誤差的因素還包括現金餘額、成份股調整、成份股分紅、各種費用支出以及管理人經驗與運作水平等原因。
首先，如何減弱成份股調整對指數基金跟蹤誤差的影響是考驗基金管理人綜合能力的一個重要方面。合格的指數基金經理會提前預判調入或調出成份股未來價格變化以及流動性情況，並根據實際情況提前做好調倉準備。
其次，由於當前國內指數基金跟蹤的主要為價格指數，價格指數不考慮分紅再投資對指數的影響。而指數基金中成份股分紅以及分紅收益再投資會使指數基金產生正偏離。所以，一般而言分紅較大的指數基金正向偏離更大，更易於跟蹤。
再者，指數基金在運作過程中會產生運營成本、交易成本、管理費、託管費、指數使用費等系列費用。而這些費用會使得指數基金與標的指數之間產生負偏離，一般基金管理人會通過成份股分紅以及擇時交易等方式來減小指數基金的跟蹤的負偏差。
最後，儘管影響指數基金跟蹤誤差的因素很多，但基金管理人可以憑藉經驗與流程設計，儘量降低指數基金的跟蹤誤差。
>