Um aus den beiden ausgelesenen Bytes, Low (L) und High (H) einen Wandlungswert W zu generieren wird folgende Rechnung angestellt.
Dies kommt dem Kappen der höchstwertigen Bits im High-Byte gleich. Dies kann u.a. auch durch eine bitweise AND-Verknüpfung mit 0x0F für den 12-Bit bzw. 0x3F für den 14-Bit-Wandler auf das High-Byte erreicht werden.
Um die gewandelte Spannung zu bestimmen wird entsprechend eine der folgenden linearen Gleichungen berechnet:
= | (2) | ||
= | (3) |