Non-linearity correcting method and device for A/D conversion output data

   
   

Predetermined reference voltages v1, v2 are A/D-converted to achieve corresponding digital data d0, d1, d2. Any reference digital values y1, y2 are set in advance so as to satisfy y1/y2=(v1-v0)/(v2-v0)=1/2. Furthermore, calculations of x1=d1-d0 and x2=d2-d0 are carried out to achieve x1, x2. A quadratic curve (quadratic function expression y=f(x)) passing a point D (x1, y1) and a point E (x2, y2) and the origin on the xy coordinate system is set as a linearly correcting expression. A shift value x achieved by subtracting d0 from data ds having non-linearity from the A/D converting circuit is corrected by the linearly correcting expression thus achieved to achieve a linearly corrected value y to ds.

Предопределенными напряжениями тока v1 справки, v2 будут A/D-converted для того чтобы достигнуть соответствуя цифровых данных d0, d1, d2. Все значения y1 справки цифровые, y2 установлены заранее для того чтобы удовлетворять y1/y2=(v1-v0)/(v2-v0)=1/2. Furthermore, вычисления x1=d1-d0 и x2=d2-d0 снесены вне для того чтобы достигнуть x1, x2. Квадратическая кривый (квадратическое y=f(x) выражения функции) проходя пункт д (x1, y1) и пункт е (x2, y2) и начало на xy системе координат установлена как линейно исправляясь выражение. Значение x переноса достигло путем вычитать d0 от данных ds имея нелинейность от A/D преобразовывая цепи исправлено линейно исправляясь выражением таким образом достиганным для того чтобы достигнуть линейно исправленн значение ы к ds.

 
Web www.patentalert.com

< Inducible site-specific recombination for the activation and removal of transgenes in transgenic plants

< Method and apparatus for converting an expression using key words

> Akt3 inhibitors

> Image metrics in the statistical analysis of DNA microarray data

~ 00164