Wo haste die denn her?
Im CTC läuft der Timer eigentlich im Normalmodus (single slope), nur daß er eben nicht beim 256sten (8bit) oder 1024sten (10bit) oder 65536sten increment auf 0 überläuft (und ggf 'n Interrupt anfordert), sondern bei einem frei wählbaren Wert innerhalb der Reichweite.
Dieser Wert wird in einem Register vorgegeben, je nach konkret gewähltem CTC-Mode. Je nach Controller und Timer kann das das Output Compare Register A oder das Input Capture Register sein, bei einigen Controllern gibt es sogar ein, nur dafür vorgesehenes Register (meist Output Compare Register C) - Auskunft gibt das Datenblatt.
Du scheinst OCRnA zu nehmen. Also mußt Du auch den entsprechenden Waveform Generation Mode einstellen. Der Timer läuft dann einen Timer Takt nach dem Match auf 0 über (und generiert dabei ggf den IRQ)
Jetzt willst Du also, daß der Timer so alle 10ms überläuft - 100Hz.
F_CPU wird wohl der, irgendwo im Code festgelegte (angebliche) effektive Controllertakt sein. Der Timer kann (je nach Controller und Timer) an unterschiedliche Taktquellen gekoppelt werden - an den Systemtakt, einen seperaten Oszillator (zB Uhrenquarz), 'ne interne PLL, einen Clock-Eingang,...
Ist der Systemtakt oder die PLL gewählt, wird dieser Takt bevor er auf dem Timer landet heruntergeteilt (durch diskrete Werte). Das ist der (Timer) Prescaler.
Deine Formel scheint auf die Ankopplung an den Systemtakt (über einen Prescaler) ausgerichtet zu sein:
Der Timer ist also mit F_CPU/Prescaler getaktet und läuft bis (OCRnA+1). Das heißt, der Timer hat eine Überlauffrequenz von (F_CPU/Prescaler)/(OCRnA+1). Du willst, daß diese Frequenz 100Hz beträgt, also:
100Hz=(F_CPU/Prescaler)/(OCRnA+1)
Der Rest ist Mathe Klasse 5: mit dem Nenner multiplizieren, und durch 100Hz teilen ergibt:
OCRnA+1=(F_CPU/Prescaler)/100Hz
Und jetzt noch auf beiden Seiten 1 abgezogen:
OCRnA=((F_CPU/Prescaler)/100Hz)-1
War das jetzt verständlich genug erklärt? Deine Formel berechnet OCR1A für einen Prescaler von 64 und 'ne geforderte Frequenz von einem Kilohertz (also 1ms).
Edit: Bist ja inzwischen selbst drauf gekommen