Analog-to-digital converter differential nonlinearity error correction in building conductance histograms

In nanowire electrical conductance quantization studies, conductance histograms are built from a large number of conductance curves of conductance stepwise variations in time. The conductance curves are obtained by means of a digital oscilloscope; as each digital oscilloscope has an analog-to-digital converter (ADC) whose differential nonlinearity (DNL) error strongly affects the obtained conductance histograms. The effect of the DNL error can be corrected through the procedure described in this paper. Moreover, measurement results of the DNL error for three digital oscilloscope models and the long-term DNL error variations for one oscilloscope model are presented.

---

W badaniach kwantowania przewodności elektrycznej w nanodrutach na podstawie dużej liczby zarejestrowanych skokowych zmian przewodności w funkcji czasu (przebiegów czasowych) wyznaczane są histogramy przewodności. Do pomiarów przebiegów czasowych używane są oscyloskopy cyfrowe. Parametrem wpływającym na poprawność wyznaczenia histogramu przewodności jest błąd nieliniowości różniczkowej przetwornika a/c znajdującego się w oscyloskopie. Wpływ tego błędu może być wyeliminowany poprzez zastosowanie procedury korekcyjnej opisanej w artykule. W artykule przedstawiono także wyniki pomiarów błędu nieliniowości różniczkowej dla trzech modeli oscyloskopów cyfrowych oraz długoterminowych zmian błędu nieliniowości różniczkowej dla wybranego oscyloskopu.