Comparison of computing properties of derivative and derivative‐free algorithms in variance‐component estimation by REML

Publisher Website
Google Scholar
Abstract
Summary: Computing properties of better derivative and derivative‐free algorithms were compared both theoretically and practically. Assuming that the log‐likelihood function is approximately quadratic, in a t‐trait analysis the number of steps to achieve convergence increases as t2 in ‘better’ derivative‐free algorithms and is independent of that number in ‘better’ derivative algorithms. The cost of one step increases as t3. Consequently, both classes of algorithms have a similar computational cost for single‐trait models. In multiple traits, the computing costs increase as t3 and t5, respectively. The derivative‐free algorithms have worse numerical properties. Four programs were used to obtain one‐, two‐, and three‐trait REML estimates from field data. Compared to single‐trait analyses, the cost of one run for derivative‐free algorithms increased by 27–40 times for two traits and 152–686 times for three traits. A similar increase in rounds of iteration for a derivative algorithm reached 5 and 21, and 1.8 and 2.2 in canonical transformation. Convergence and estimates of derivative algorithms were more predictable and, unlike derivative‐free algorithms, were much less dependent on the choice of priors. Well‐implemented derivative REML algorithms are less expensive and more reliable in multiple traits than derivative‐free ones.Zusammenfassung: Vergleich von Rechen (Computing) merkmalen von abgeleiteten und ableitungsfreien Algorithmen zur Varianzkomponentenschätzung mittels REMLRechenmerkmale von verbesserten ableitungsfreien und Algorithmen, die Ableitung benutzen, werden theoretisch und praktisch verglichen. Unter der Annahme einer ungefähr quadratischen log‐likelihood Funktion, nimmt in der Analyse von t Merkmalen die Zahl der Rechenschritte bis zu Konvergenz mit t2 in ‘besseren’ ableitungsfreien Algorithmen zu und ist davon unabhängig von dieser Zahl in der ‘besseren’ Ableitung. Die Kosten je Schritt steigen mit t3. Daher haben beide Berechnungsarten für Einzelmerkmale ähnliche Rechenkosten. Bei mehreren Merkmalen steigen die Kosten mit t3 bzw. t5 und ableitungsfreie Algorithmen haben schlechtere numerische Eigenschagten. Vier Programme haben für ein‐, zwei‐ und drei‐Merkmale REML Schätzungen von Felddaten erzeugt. Im Vergleich zu Ein‐Merkmal Analysen stiegen Kosten für einen Lauf bei ableitungsfreien Algorithmen um das 27–40 fache bei zwei‐ und um das 152–686 fache bei drei‐Merkmalen. Die Steigerungen je Lauf bei auf Ableitung beruhenden Algorithmen waren 5–21 fach und 1.8 und 2.2 fach bei kanonischer Transformation. Konvergenz und Schätzwerte von Algorithmen mit Ableitung waren besser vorhersagbar und weniger von der Wahl der priors beeinflußt. Gut ausgestattete REML Methoden, die Ableitungen benutzen, sind ökonomischer und verläßlicher bei Mehrmerkmalsproblemen als ableitungsfreie.