Nachden der Knoten gelöst ist, kann ich jetzt auch das Geheimnis der Auflösung lüften.
Vorweg : Die Rechnerei habe ich mal in Excel nachgebaut (inkl. Simulation von 2780 "Messwerten") und sie funktioniert und man bekommt Ergebnisse in mV Schritten.
Hier mal ein paar Beispiele - linke Spalte : Wechselspannung Spitzenwert | mittlere Spalte : Effektivwert nach offizieller Formel | rechte Spalte : Effektivwert ermittelt nach Tiny13-Algorithmus (alles in V)
2,000 ... 1,414 ... 1,417
2,001 ... 1,415 ... 1,418
2,002 ... 1,416 ... 1,418
2,003 ... 1,416 ... 1,419
2,004 ... 1,417 ... 1,420
2,005 ... 1,418 ... 1,420
2,006 ... 1,418 ... 1,421
2,007 ... 1,419 ... 1,422
2,008 ... 1,420 ... 1,423
2,009 ... 1,421 ... 1,423
2,010 ... 1,421 ... 1,424
1,000 ... 0,707 ... 0,708
1,001 ... 0,708 ... 0,709
1,002 ... 0,709 ... 0,710
1,003 ... 0,709 ... 0,710
1,004 ... 0,710 ... 0,711
1,005 ... 0,711 ... 0,712
1,006 ... 0,711 ... 0,712
1,007 ... 0,712 ... 0,713
1,008 ... 0,713 ... 0,714
1,009 ... 0,713 ... 0,715
1,010 ... 0,714 ... 0,715
Wie funktioniert das ? Sämtliche Messwerte werden vor der Aufsummierung mit 8 multipliziert. Dadurch gibt es nun zwischen den ursprünglichen Messwerten (im 5mV Raster) 8 Zwischenschritte, die infolge der Mittelwertbildung natürlich auch alle vorkommen können und rechnerisch ein Raster von 0,6 mV ergeben. Das ist allerdings nur rein rechnerisch - die sind nicht wirklich gemessen. Für mich sieht das nach einer Art Oversampling aus. Wie zuvor schon vermutet entsteht übrigens durch eine nicht vollständig erfasste Wechselspannungs-Periode ein Fehler, der umso höher ausfällt, je niedriger die Frequenz der Wechselspannung ist. Im schlimmsten Fall liegt der rechnerisch aber nur bei ein paar Prozent.
Ansonsten finde ich die Nummer genial. Den Effektivwert einer Wechselspannung auf diese Art und Weise zu ermitteln - darauf muss man erstmal kommen. Hut ab.
Was ich nicht getestet habe, sind höhere Frequenzen (in meinem Test waren es ca. 75 Hz). Aus den Zeitangaben von LodataC ergibt sich für die 2780 Messungen eine "Abtastrate" von ca. 7160 Hz. Wenn man nun Wechselspannungen mit höheren Frequenzen mißt (z.B. 20 kHz), ist deren Periodendauer kürzer als der Abstand zwischen zwei Messungen. Vermutlich klappt das trotzdem, weil sich auch über Perioden hinweg wieder ein statistisches Mittel ergibt. Wenn die Frequenz aber exakt der "Abtastrate" entspricht - oder Vielfachen davon, dürfte das zu interessanten Ergebnissen führen.