Knowledge

Cramér–Rao bound

Source 📝

20: 7848: 7620: 10079: 8250: 7215: 8904: 7843:{\displaystyle I_{m,k}={\frac {\partial {\boldsymbol {\mu }}^{T}}{\partial \theta _{m}}}{\boldsymbol {C}}^{-1}{\frac {\partial {\boldsymbol {\mu }}}{\partial \theta _{k}}}+{\frac {1}{2}}\operatorname {tr} \left({\boldsymbol {C}}^{-1}{\frac {\partial {\boldsymbol {C}}}{\partial \theta _{m}}}{\boldsymbol {C}}^{-1}{\frac {\partial {\boldsymbol {C}}}{\partial \theta _{k}}}\right)} 9780: 8059: 6828: 9749: 8561: 108:(MVU) estimator. However, in some cases, no unbiased technique exists which achieves the bound. This may occur either if for any unbiased estimator, there exists another with a strictly smaller variance, or if an MVU estimator exists, but its variance is strictly greater than the inverse of the Fisher information. 3182: 3066: 10074:{\displaystyle I=-\operatorname {E} \left({\frac {\partial V}{\partial \sigma ^{2}}}\right)=-\operatorname {E} \left(-{\frac {(X-\mu )^{2}}{(\sigma ^{2})^{3}}}+{\frac {1}{2(\sigma ^{2})^{2}}}\right)={\frac {\sigma ^{2}}{(\sigma ^{2})^{3}}}-{\frac {1}{2(\sigma ^{2})^{2}}}={\frac {1}{2(\sigma ^{2})^{2}}}.} 7605: 4684: 7345: 10737: 6384: 5107: 3591: 8245:{\displaystyle I(\theta )=\left({\frac {\partial {\boldsymbol {\mu }}(\theta )}{\partial \theta }}\right)^{T}{\boldsymbol {C}}^{-1}\left({\frac {\partial {\boldsymbol {\mu }}(\theta )}{\partial \theta }}\right)=\sum _{i=1}^{n}{\frac {1}{\sigma ^{2}}}={\frac {n}{\sigma ^{2}}},} 7210:{\displaystyle {\begin{aligned}\operatorname {cov} (V,T)&=\operatorname {E} \left(T\cdot \left\right)\\&=\int t(x)\leftf(x;\theta )\,dx\\&={\frac {\partial }{\partial \theta }}\left={\frac {\partial }{\partial \theta }}E(T)=\psi ^{\prime }(\theta )\end{aligned}}} 3825: 6635: 2073: 3311: 5601: 8899:{\displaystyle \operatorname {var} (T)=\operatorname {var} \left({\frac {\sum _{i=1}^{n}(X_{i}-\mu )^{2}}{n}}\right)={\frac {\sum _{i=1}^{n}\operatorname {var} (X_{i}-\mu )^{2}}{n^{2}}}={\frac {n\operatorname {var} (X-\mu )^{2}}{n^{2}}}={\frac {1}{n}}\left} 9465: 7496: 8048: 9457: 1066: 5830: 3073: 2957: 5332: 5237: 4785: 3502: 1877: 8322: 11039: 10547: 5712: 7526: 4966: 419: 10447: 7233: 3397: 10558: 4235: 6098: 6264: 2710: 9070: 4506: 4022: 1356: 9189: 2343: 3510: 2838: 10344: 6833: 6782: 932: 8473: 566: 2914: 1481:
Apart from being a bound on estimators of functions of the parameter, this approach can be used to derive a bound on the variance of biased estimators with a given bias, as follows. Consider an estimator
5393: 10230: 3606: 2230: 1568: 1268: 1711: 6455: 5976: 1930: 637: 1618: 10177: 4237:
whenever the right-hand side is finite. This condition can often be confirmed by using the fact that integration and differentiation can be swapped when either of the following cases hold:
3252: 5491: 4501: 698: 2383: 9744:{\displaystyle V={\frac {\partial }{\partial \sigma ^{2}}}\log \left={\frac {\partial }{\partial \sigma ^{2}}}\left=-{\frac {1}{2\sigma ^{2}}}+{\frac {(X-\mu )^{2}}{2(\sigma ^{2})^{2}}}} 23:
Illustration of the Cramer-Rao bound: there is no unbiased estimator which is able to estimate the (2-dimensional) parameter with less variance than the Cramer-Rao bound, illustrated as
5737: 5500: 6683: 5147: 1116: 6820: 3459: 2122: 7356: 6447: 5451: 5142: 4908: 4461: 7962: 3433: 2949: 2744: 1393: 9224: 4961: 8954: 2881: 8994: 3966: 8549: 1740: 1509: 968: 815: 295: 6232: 5909: 1647: 1422: 1203: 3177:{\displaystyle \operatorname {cov} _{\boldsymbol {\theta }}\left({\boldsymbol {T}}(X)\right)\geq \phi (\theta )I\left({\boldsymbol {\theta }}\right)^{-1}\phi (\theta )^{T}} 3061:{\displaystyle I\left({\boldsymbol {\theta }}\right)\geq \phi (\theta )^{T}\operatorname {cov} _{\boldsymbol {\theta }}\left({\boldsymbol {T}}(X)\right)^{-1}\phi (\theta )} 6160: 4844: 4351: 4273: 3872: 2159: 1915: 976: 737: 258: 24: 8507: 8385: 7954: 1769: 1471: 451: 351: 5242: 4695: 2420: 3464: 1777: 7927: 5996: 5416: 4426: 4375: 4313: 4065: 3215: 2453: 1442: 1174: 315: 180: 8261: 6195: 5880: 8358: 4873: 4822: 4090: 3901: 1154: 10821: 10795: 10769: 3241: 3338: 10122: 10102: 9772: 9212: 9100: 7907: 7887: 6723: 6703: 6415: 6252: 6121: 5929: 5732: 4293: 4085: 4045: 3925: 777: 757: 665: 220: 200: 7600:{\displaystyle {\boldsymbol {x}}\sim {\mathcal {N}}_{d}\left({\boldsymbol {\mu }}({\boldsymbol {\theta }}),{\boldsymbol {C}}({\boldsymbol {\theta }})\right)} 10458: 5609: 3971: 9754:
where the second equality is from elementary calculus. Thus, the information in a single observation is just minus the expectation of the derivative of
7340:{\displaystyle {\sqrt {\operatorname {var} (T)\operatorname {var} (V)}}\geq \left|\operatorname {cov} (V,T)\right|=\left|\psi ^{\prime }(\theta )\right|} 359: 10745:
When the mean is not known, the minimum mean squared error estimate of the variance of a sample from Gaussian distribution is achieved by dividing by
10355: 10732:{\displaystyle \operatorname {MSE} (T)=\left({\frac {2n}{(n+2)^{2}}}+{\frac {4}{(n+2)^{2}}}\right)(\sigma ^{2})^{2}={\frac {2(\sigma ^{2})^{2}}{n+2}}} 3343: 6379:{\displaystyle V={\frac {\partial }{\partial \theta }}\ln f(X;\theta )={\frac {1}{f(X;\theta )}}{\frac {\partial }{\partial \theta }}f(X;\theta )} 4679:{\displaystyle (E_{\theta '}-E_{\theta })=v^{T}\phi (\theta )\delta ;\quad \chi ^{2}(\mu _{\theta '};\mu _{\theta })=v^{T}I(\theta )v\delta ^{2}} 6004: 2461: 150:. All versions of the bound require certain regularity conditions, which hold for most well-behaved distributions. These conditions are listed 9002: 1920:
It's trivial to have a small variance − an "estimator" that is constant has a variance of zero. But from the above equation, we find that the
10904: 5102:{\displaystyle \operatorname {Var} _{\theta }=v^{T}\operatorname {Cov} _{\theta }v\geq v^{T}\phi (\theta )I(\theta )^{-1}\phi (\theta )^{T}v} 3586:{\displaystyle \operatorname {cov} _{\boldsymbol {\theta }}\left({\boldsymbol {T}}(X)\right)\geq I\left({\boldsymbol {\theta }}\right)^{-1}.} 1276: 9108: 2249: 142:
The Cramér–Rao bound is stated in this section for several increasingly general cases, beginning with the case in which the parameter is a
11310: 2749: 11560:
Posterior uncertainty, asymptotic law and Cramér-Rao bound, Structural Control and Health Monitoring 25(1851):e2113 DOI: 10.1002/stc.2113
11419: 10256: 6728: 823: 8393: 459: 2886: 11573:
a GUI-based software to calculate the Fisher information and Cramér-Rao lower bound with application to single-molecule microscopy.
5337: 3820:{\displaystyle \operatorname {var} _{\boldsymbol {\theta }}(T_{m}(X))=\left_{mm}\geq \left_{mm}\geq \left(\left_{mm}\right)^{-1}.} 11570: 10187: 1071:
or the minimum possible variance for an unbiased estimator divided by its actual variance. The Cramér–Rao lower bound thus gives
1514: 1208: 11511: 11285: 11125: 10944: 6630:{\displaystyle \operatorname {E} (V)=\int f(x;\theta )\left\,dx={\frac {\partial }{\partial \theta }}\int f(x;\theta )\,dx=0} 817:
is twice differentiable and certain regularity conditions hold, then the Fisher information can also be defined as follows:
2068:{\displaystyle \operatorname {E} \left(({\hat {\theta }}-\theta )^{2}\right)\geq {\frac {^{2}}{I(\theta )}}+b(\theta )^{2},} 10902:
Rao, Calyampudi Radakrishna (1945). "Information and the accuracy attainable in the estimation of statistical parameters".
5934: 2168: 574: 3600:, then one can simply take the reciprocal of the corresponding diagonal element to find a (possibly loose) lower bound. 3306:{\displaystyle \phi (\theta ):=\partial {\boldsymbol {\psi }}({\boldsymbol {\theta }})/\partial {\boldsymbol {\theta }}} 1573: 10127: 1652: 11586: 11550: 11530: 11492: 11452: 10878: 670: 7515: 5596:{\displaystyle \operatorname {Var} _{\theta }\geq {\frac {\langle v,\phi (\theta )\rangle ^{2}}{v^{T}I(\theta )v}}} 2351: 6640:
where the integral and partial derivative have been interchanged (justified by the second regularity condition).
10968:
Fréchet, Maurice (1943). "Sur l'extension de certaines évaluations statistiques au cas de petits échantillons".
11359: 6650: 5456: 4466: 1077: 10847: 7491:{\displaystyle \operatorname {var} (T)\geq {\frac {^{2}}{\operatorname {var} (V)}}={\frac {^{2}}{I(\theta )}}} 10913: 8043:{\displaystyle w\sim {\mathcal {N}}_{d,n}\left(\theta {\boldsymbol {1}},\sigma ^{2}{\boldsymbol {I}}\right).} 7224: 6787: 3442: 9452:{\displaystyle \log \left=\log \left=-\log({\sqrt {2\pi \sigma ^{2}}})-{\frac {(X-\mu )^{2}}{2\sigma ^{2}}}} 10842: 6420: 5421: 5112: 4878: 4431: 3836: 3244: 970:
measures how close this estimator's variance comes to this lower bound; estimator efficiency is defined as
223: 3407: 2923: 2718: 4354: 8916: 4913: 2843: 2081: 11591: 11341: 8959: 3930: 75:. It is also known as Fréchet-Cramér–Rao or Fréchet-Darmois-Cramér-Rao lower bound. It states that the 8909:(the second equality follows directly from the definition of variance). The first term is the fourth 8512: 1716: 1485: 944: 785: 271: 11087: 10832: 7611: 5494: 4689: 4390: 3597: 2393: 1364: 1061:{\displaystyle e({\hat {\theta }})={\frac {I(\theta )^{-1}}{\operatorname {var} ({\hat {\theta }})}}} 105: 60: 11221:"On Some Analogues of the Amount of Information and Their Use in Statistical Estimation (Concluded)" 6208: 5885: 1623: 1398: 1179: 10837: 5825:{\displaystyle \operatorname {Var} _{\theta }\geq \phi (\theta )^{T}I(\theta )^{-1}\phi (\theta ).} 131: 11262:. Texts and Readings in Mathematics. Vol. 67. Hindustan Book Agency, Gurgaon. p. 18-37. 6130: 5327:{\displaystyle \operatorname {Var} _{\theta }\geq \phi (\theta )^{T}I(\theta )^{-1}\phi (\theta )} 5232:{\displaystyle \operatorname {Cov} _{\theta }\geq \phi (\theta )I(\theta )^{-1}\phi (\theta )^{T}} 4827: 4780:{\displaystyle I(\theta )\geq \phi (\theta )\operatorname {Cov} _{\theta }^{-1}\phi (\theta )^{T}} 4321: 4243: 3842: 2127: 1885: 707: 228: 11182:"On Some Analogues of the Amount of Information and Their Use in Statistical Estimation (Contd.)" 10240: 8485: 8363: 7932: 3497:{\displaystyle {\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)={\boldsymbol {\theta }}} 1872:{\displaystyle \operatorname {var} \left({\hat {\theta }}\right)\geq {\frac {^{2}}{I(\theta )}}.} 938: 96: 1745: 1447: 427: 327: 11317: 8317:{\displaystyle \operatorname {var} \left({\hat {\theta }}\right)\geq {\frac {\sigma ^{2}}{n}}.} 2399: 318: 115:
estimators of given bias. In some cases, a biased approach can result in both a variance and a
76: 11484: 8910: 7912: 5981: 5401: 4411: 4360: 4298: 4050: 3194: 2425: 1427: 1159: 300: 165: 11408: 6165: 5850: 11244: 11205: 11166: 10921: 10742:
which is less than what unbiased estimators can achieve according to the Cramér–Rao bound.
143: 8343: 4849: 4798: 3877: 1130: 8: 10800: 10774: 10748: 9215: 8337: 7220:
again because the integration and differentiation operations commute (second condition).
3220: 644: 19: 11143:"On Some Analogues of the Amount of Information and Their Use in Statistical Estimation" 3320: 11291: 11263: 11232: 11193: 11154: 11096: 11067: 11020: 10985: 10868: 10247: 10107: 10087: 9757: 9197: 9085: 9080: 9076: 7892: 7863: 6708: 6688: 6400: 6255: 6237: 6106: 5914: 5717: 4278: 4070: 4030: 3910: 1921: 762: 742: 650: 322: 205: 185: 116: 101: 84: 80: 72: 51:
of a deterministic (fixed, though unknown) parameter. The result is named in honor of
11003:
Darmois, Georges (1945). "Sur les limites de la dispersion de certaines estimations".
10542:{\displaystyle \left(1-{\frac {n}{n+2}}\right)\sigma ^{2}={\frac {2\sigma ^{2}}{n+2}}} 5707:{\displaystyle \sup _{v\neq 0}{\frac {\langle w,v\rangle ^{2}}{v^{T}Mv}}=w^{T}M^{-1}w} 11546: 11526: 11507: 11488: 11477: 11448: 11281: 11121: 11071: 11059: 10950: 10940: 10884: 10874: 2917: 640: 87:; or (equivalently) the reciprocal of the Fisher information is a lower bound on its 32: 11295: 11387: 11273: 11051: 11012: 10977: 10235:
In this case, the inequality is saturated (equality is achieved), showing that the
1127:
A more general form of the bound can be obtained by considering a biased estimator
68: 414:{\displaystyle \operatorname {var} ({\hat {\theta }})\geq {\frac {1}{I(\theta )}}} 52: 11472: 11240: 11201: 11162: 11115: 10917: 10442:{\displaystyle \operatorname {var} (T)={\frac {2n(\sigma ^{2})^{2}}{(n+2)^{2}}}.} 6124: 3314: 2240:
Extending the Cramér–Rao bound to multiple parameters, define a parameter column
64: 11277: 4388: 3392:{\displaystyle \partial \psi _{i}({\boldsymbol {\theta }})/\partial \theta _{j}} 7854: 6394: 3436: 759:. If not indicated, in what follows, the expectation is taken with respect to 701: 147: 124: 11055: 11580: 11392: 11375: 11063: 10954: 10888: 4230:{\displaystyle {\frac {\partial }{\partial \theta }}\left=\int T(x)\left\,dx} 2241: 11523:
Fundamentals of Statistical Signal Processing, Volume I: Estimation Theory
11258:
Nielsen, Frank (2013). "Cramér-Rao Lower Bound and Information Geometry".
6093:{\displaystyle \operatorname {var} (t(X))\geq {\frac {^{2}}{I(\theta )}}.} 2705:{\displaystyle I_{m,k}=\operatorname {E} \left=-\operatorname {E} \left.} 1882:
The unbiased version of the bound is a special case of this result, with
11236: 11220: 11197: 11181: 11158: 11142: 9065:{\displaystyle \operatorname {var} (T)={\frac {2(\sigma ^{2})^{2}}{n}}.} 11100: 11024: 10989: 6645: 6390: 36: 4017:{\displaystyle {\frac {\partial }{\partial \theta }}\log f(x;\theta )} 1351:{\displaystyle \operatorname {var} (T)\geq {\frac {^{2}}{I(\theta )}}} 10236: 9184:{\displaystyle V={\frac {\partial }{\partial \sigma ^{2}}}\log \left} 6202: 6198: 2338:{\displaystyle {\boldsymbol {\theta }}=\left^{T}\in \mathbb {R} ^{d}} 130:
Significant progress over the Cramér–Rao lower bound was proposed by
94:
An unbiased estimator that achieves this bound is said to be (fully)
56: 48: 11044:
Proceedings of the Royal Society of Edinburgh Section A: Mathematics
11016: 10981: 2833:{\displaystyle {\boldsymbol {T}}(X)=(T_{1}(X),\ldots ,T_{d}(X))^{T}} 2078:
using the standard decomposition of the MSE. Note, however, that if
1620:. By the result above, any unbiased estimator whose expectation is 261: 182:
is an unknown deterministic parameter that is to be estimated from
88: 11268: 10339:{\displaystyle T={\frac {\sum _{i=1}^{n}(X_{i}-\mu )^{2}}{n+2}}.} 5835: 1270:
is not generally equal to 0. In this case, the bound is given by
11445:
Fundamentals of Statistical Signal Processing: Estimation Theory
11409:"Lecture notes on information theory, chapter 29, ECE563 (UIUC)" 6777:{\displaystyle \operatorname {cov} (V,T)=\operatorname {E} (VT)} 3907:
The Fisher information is always defined; equivalently, for all
927:{\displaystyle I(\theta )=-n\operatorname {E} _{X;\theta }\left} 8468:{\displaystyle T={\frac {\sum _{i=1}^{n}(X_{i}-\mu )^{2}}{n}}.} 561:{\displaystyle I(\theta )=n\operatorname {E} _{X;\theta }\left} 111:
The Cramér–Rao bound can also be used to bound the variance of
11085:
Shenton, L. R. (1970). "The so-called Cramer–Rao inequality".
2909:{\displaystyle {\boldsymbol {\psi }}({\boldsymbol {\theta }})} 1476: 5388:{\displaystyle \phi (\theta ):=\nabla _{\theta }E_{\theta }} 2124:
this bound might be less than the unbiased Cramér–Rao bound
10225:{\displaystyle \operatorname {var} (T)\geq {\frac {1}{I}}.} 3835:
The bound relies on two weak regularity conditions on the
11373: 10935:
Rao, Calyampudi Radakrishna (1994). S. Das Gupta (ed.).
1563:{\displaystyle b(\theta )=E\{{\hat {\theta }}\}-\theta } 1263:{\displaystyle E\{T(X)\}-\theta =\psi (\theta )-\theta } 134:
through a series of works, called Bhattacharyya Bound.
4916: 2746:
be an estimator of any vector function of parameters,
10803: 10777: 10751: 10561: 10461: 10358: 10259: 10190: 10130: 10110: 10090: 9783: 9760: 9468: 9227: 9200: 9111: 9088: 9005: 8962: 8919: 8564: 8515: 8488: 8396: 8366: 8346: 8264: 8062: 7965: 7935: 7915: 7895: 7866: 7623: 7529: 7359: 7236: 6831: 6790: 6731: 6711: 6691: 6653: 6458: 6423: 6403: 6267: 6240: 6211: 6168: 6133: 6109: 6007: 5984: 5937: 5917: 5888: 5853: 5740: 5720: 5612: 5503: 5459: 5424: 5404: 5340: 5245: 5150: 5115: 4969: 4881: 4852: 4830: 4801: 4698: 4509: 4469: 4434: 4414: 4363: 4324: 4301: 4281: 4246: 4093: 4073: 4053: 4033: 3974: 3933: 3913: 3880: 3845: 3609: 3513: 3467: 3445: 3410: 3346: 3323: 3255: 3223: 3197: 3076: 2960: 2926: 2889: 2846: 2752: 2721: 2464: 2428: 2402: 2354: 2252: 2171: 2130: 2084: 1933: 1888: 1780: 1748: 1719: 1655: 1626: 1576: 1517: 1488: 1450: 1430: 1401: 1367: 1279: 1211: 1182: 1162: 1133: 1080: 979: 947: 826: 788: 765: 745: 710: 673: 653: 577: 462: 430: 362: 330: 303: 274: 231: 208: 188: 168: 5971:{\displaystyle \operatorname {E} (T)=\psi (\theta )} 3596:
If it is inconvenient to compute the inverse of the
2162: 10349:obviously has a smaller variance, which is in fact 7509: 2225:{\displaystyle 1+b'(\theta )={\frac {n}{n+2}}<1} 632:{\displaystyle \ell (x;\theta )=\log(f(x;\theta ))} 104:among all unbiased methods, and is, therefore, the 11506:. Hoboken: John Wiley & Sons. pp. 45–98. 11476: 10815: 10789: 10763: 10731: 10541: 10441: 10338: 10224: 10171: 10116: 10096: 10073: 9766: 9743: 9451: 9206: 9183: 9094: 9064: 8988: 8948: 8898: 8543: 8501: 8467: 8379: 8352: 8327: 8316: 8244: 8042: 7948: 7921: 7901: 7881: 7842: 7599: 7490: 7339: 7209: 6814: 6776: 6717: 6697: 6677: 6629: 6441: 6409: 6378: 6246: 6226: 6189: 6154: 6115: 6092: 5990: 5970: 5923: 5903: 5874: 5824: 5726: 5706: 5595: 5485: 5445: 5410: 5387: 5326: 5231: 5136: 5101: 4955: 4902: 4867: 4838: 4816: 4779: 4678: 4495: 4455: 4420: 4369: 4345: 4307: 4287: 4267: 4229: 4079: 4059: 4039: 4016: 3960: 3919: 3895: 3866: 3819: 3585: 3496: 3453: 3427: 3391: 3332: 3305: 3235: 3209: 3176: 3060: 2943: 2908: 2875: 2832: 2738: 2704: 2447: 2414: 2377: 2337: 2224: 2153: 2116: 2067: 1909: 1871: 1763: 1734: 1705: 1641: 1612: 1562: 1503: 1465: 1436: 1416: 1387: 1350: 1262: 1197: 1168: 1148: 1110: 1060: 962: 926: 809: 771: 751: 731: 692: 659: 631: 560: 445: 413: 345: 309: 289: 252: 214: 194: 174: 11504:Parameter Estimation for Scientists and Engineers 11040:"XV.—On the Estimation of Statistical Parameters" 11037: 8053:Then the Fisher information is a scalar given by 1613:{\displaystyle \psi (\theta )=b(\theta )+\theta } 11578: 11483:. Cambridge: Harvard University Press. pp.  10172:{\displaystyle {\frac {n}{2(\sigma ^{2})^{2}}}.} 5614: 4795:It suffices to prove this for scalar case, with 1706:{\displaystyle (\psi '(\theta ))^{2}/I(\theta )} 8956:; the second is the square of the variance, or 4357:, and the integral converges uniformly for all 100:. Such a solution achieves the lowest possible 6393:is used in the final equality above. Then the 5836:A standalone proof for the general scalar case 4027:The operations of integration with respect to 693:{\displaystyle \operatorname {E} _{x;\theta }} 11218: 11179: 11140: 10905:Bulletin of the Calcutta Mathematical Society 222:, each from a distribution according to some 59:, but has also been derived independently by 8877: 8852: 5645: 5632: 5554: 5532: 2916:. The Cramér–Rao bound then states that the 2378:{\displaystyle f(x;{\boldsymbol {\theta }})} 1551: 1536: 1230: 1215: 10996: 10961: 7909:independent observations with unknown mean 202:independent observations (measurements) of 11406: 11376:"Some classes of global Cramer–Rao bounds" 11117:The Oxford Dictionary of Statistical Terms 4067:can be interchanged in the expectation of 2386: 1477:Bound on the variance of biased estimators 151: 11391: 11267: 10928: 7139: 7069: 6678:{\displaystyle \operatorname {cov} (V,T)} 6614: 6568: 5486:{\displaystyle \theta '=\theta +\delta v} 5433: 5124: 4890: 4832: 4496:{\displaystyle \theta '=\theta +\delta v} 4443: 4220: 4147: 2647: 2325: 1473:is the Fisher information defined above. 1111:{\displaystyle e({\hat {\theta }})\leq 1} 123:the unbiased Cramér–Rao lower bound; see 11372:For the Bayesian case, see eqn. (11) of 10873:. Princeton, NJ: Princeton Univ. Press. 10250:using a biased estimator. The estimator 5841: 4389:Proof for the general case based on the 3830: 3504:), then the Cramér–Rao bound reduces to 18: 11471: 11302: 11257: 11084: 11038:Aitken, A. C.; Silverstone, H. (1942). 11002: 10967: 10853: 8150: 8126: 8090: 8028: 7813: 7793: 7769: 7749: 7701: 7681: 7651: 7585: 7577: 7566: 7558: 7531: 6815:{\displaystyle \operatorname {E} (V)=0} 3779: 3726: 3676: 3662: 3615: 3563: 3533: 3519: 3490: 3478: 3469: 3454:{\displaystyle {\boldsymbol {\theta }}} 3447: 3412: 3364: 3299: 3283: 3275: 3138: 3096: 3082: 3019: 3004: 2969: 2928: 2899: 2891: 2857: 2754: 2723: 2685: 2590: 2538: 2368: 2254: 1176:but a function of this parameter, say, 157: 16:Lower bound on variance of an estimator 11579: 10866: 5978:. The goal is to prove that, for all 3217:is understood to mean that the matrix 1649:has variance greater than or equal to 1122: 11374:Bobrovsky; Mayer-Wolf; Zakai (1987). 11113: 10860: 8387:. Consider the following statistic: 6822:. Expanding this expression we have 6442:{\displaystyle \operatorname {E} (V)} 5446:{\displaystyle v\in \mathbb {R} ^{n}} 5137:{\displaystyle v\in \mathbb {R} ^{m}} 4903:{\displaystyle v\in \mathbb {R} ^{m}} 4456:{\displaystyle v\in \mathbb {R} ^{n}} 11540: 11342:"Cramér Rao Lower Bound - Navipedia" 11308: 10084:Thus the information in a sample of 4047:and differentiation with respect to 3428:{\displaystyle {\boldsymbol {T}}(X)} 2944:{\displaystyle {\boldsymbol {T}}(X)} 2840:, and denote its expectation vector 2739:{\displaystyle {\boldsymbol {T}}(X)} 2235: 2163:example of estimating variance below 1924:of a biased estimator is bounded by 11520: 11501: 11442: 11416:Lecture notes on information theory 11311:"Lectures on statistical inference" 10934: 10901: 4956:{\textstyle h:=\sum _{j}v_{j}T_{j}} 13: 11465: 11400: 10895: 10870:Mathematical Methods of Statistics 9840: 9814: 9806: 9793: 9547: 9543: 9481: 9477: 9124: 9120: 8949:{\displaystyle 3(\sigma ^{2})^{2}} 8846: 8799: 8165: 8146: 8105: 8086: 7984: 7819: 7809: 7775: 7765: 7707: 7697: 7663: 7646: 7541: 7447: 7389: 7318: 7189: 7160: 7156: 7092: 7088: 7019: 7015: 6919: 6915: 6864: 6791: 6756: 6584: 6580: 6536: 6532: 6459: 6424: 6349: 6345: 6280: 6276: 6127:with probability density function 6046: 5938: 5418:be an infinitesimal, then for any 5357: 4428:be an infinitesimal, then for any 4295:, and the bounds do not depend on 4188: 4184: 4100: 4096: 3981: 3977: 3376: 3347: 3295: 3271: 2876:{\displaystyle \operatorname {E} } 2847: 2648: 2634: 2624: 2610: 2553: 2549: 2501: 2497: 2484: 2348:with probability density function 2117:{\displaystyle 1+b'(\theta )<1} 1934: 1742:whose bias is given by a function 904: 875: 849: 675: 535: 512: 482: 14: 11603: 11564: 10181:The Cramér–Rao bound states that 10104:independent observations is just 8989:{\displaystyle (\sigma ^{2})^{2}} 5882:is an estimator with expectation 5714:for any positive-definite matrix 3961:{\displaystyle f(x;\theta )>0} 10246:However, we can achieve a lower 8544:{\displaystyle E(T)=\sigma ^{2}} 8340:random variable with known mean 8010: 7510:Multivariate normal distribution 4688:Plugging this into multivariate 1735:{\displaystyle {\hat {\theta }}} 1504:{\displaystyle {\hat {\theta }}} 963:{\displaystyle {\hat {\theta }}} 810:{\displaystyle \ell (x;\theta )} 290:{\displaystyle {\hat {\theta }}} 11436: 11425:from the original on 2022-05-24 11366: 11352: 11334: 11251: 11212: 11173: 9079:in the sample? Recall that the 8328:Normal variance with known mean 8255:and so the Cramér–Rao bound is 4593: 1388:{\displaystyle \psi '(\theta )} 11134: 11107: 11078: 11031: 10706: 10692: 10674: 10660: 10643: 10630: 10609: 10596: 10574: 10568: 10424: 10411: 10400: 10386: 10371: 10365: 10310: 10290: 10203: 10197: 10154: 10140: 10056: 10042: 10018: 10004: 9980: 9966: 9933: 9919: 9895: 9881: 9870: 9857: 9729: 9715: 9701: 9688: 9622: 9609: 9600: 9577: 9530: 9511: 9422: 9409: 9400: 9377: 9329: 9316: 9261: 9242: 9173: 9154: 9044: 9030: 9018: 9012: 8977: 8963: 8937: 8923: 8868: 8855: 8823: 8810: 8759: 8746: 8709: 8689: 8637: 8617: 8577: 8571: 8525: 8519: 8447: 8427: 8281: 8160: 8154: 8100: 8094: 8072: 8066: 7975: 7969: 7876: 7870: 7589: 7581: 7570: 7562: 7501:which proves the proposition. 7482: 7476: 7462: 7458: 7452: 7439: 7427: 7421: 7404: 7400: 7394: 7381: 7372: 7366: 7329: 7323: 7297: 7285: 7266: 7260: 7251: 7245: 7200: 7194: 7178: 7172: 7136: 7124: 7118: 7112: 7066: 7054: 7043: 7031: 7007: 6995: 6978: 6972: 6943: 6931: 6907: 6895: 6854: 6842: 6803: 6797: 6771: 6762: 6750: 6738: 6672: 6660: 6611: 6599: 6560: 6548: 6524: 6512: 6495: 6483: 6471: 6465: 6436: 6430: 6373: 6361: 6337: 6325: 6310: 6298: 6227:{\displaystyle \psi (\theta )} 6221: 6215: 6184: 6178: 6149: 6137: 6081: 6075: 6061: 6057: 6051: 6038: 6029: 6026: 6020: 6014: 5965: 5959: 5950: 5944: 5904:{\displaystyle \psi (\theta )} 5898: 5892: 5869: 5863: 5816: 5810: 5795: 5788: 5776: 5769: 5760: 5754: 5584: 5578: 5550: 5544: 5523: 5517: 5382: 5376: 5350: 5344: 5321: 5315: 5300: 5293: 5281: 5274: 5265: 5259: 5220: 5213: 5198: 5191: 5185: 5179: 5170: 5164: 5087: 5080: 5065: 5058: 5052: 5046: 5024: 5018: 4989: 4983: 4862: 4856: 4811: 4805: 4768: 4761: 4746: 4739: 4723: 4717: 4708: 4702: 4660: 4654: 4635: 4604: 4584: 4578: 4559: 4556: 4550: 4534: 4528: 4510: 4340: 4328: 4262: 4250: 4212: 4200: 4174: 4168: 4144: 4132: 4126: 4120: 4011: 3999: 3949: 3937: 3890: 3884: 3861: 3849: 3686: 3680: 3645: 3642: 3636: 3623: 3543: 3537: 3422: 3416: 3368: 3360: 3287: 3279: 3265: 3259: 3165: 3158: 3126: 3120: 3106: 3100: 3055: 3049: 3029: 3023: 2990: 2983: 2938: 2932: 2903: 2895: 2870: 2867: 2861: 2853: 2821: 2817: 2811: 2789: 2783: 2770: 2764: 2758: 2733: 2727: 2372: 2358: 2192: 2186: 2148: 2142: 2105: 2099: 2053: 2046: 2034: 2028: 2014: 2010: 2004: 1987: 1967: 1954: 1945: 1898: 1892: 1860: 1854: 1840: 1836: 1830: 1813: 1797: 1758: 1752: 1726: 1700: 1694: 1677: 1673: 1667: 1656: 1642:{\displaystyle \psi (\theta )} 1636: 1630: 1601: 1595: 1586: 1580: 1545: 1527: 1521: 1495: 1460: 1454: 1417:{\displaystyle \psi (\theta )} 1411: 1405: 1382: 1376: 1342: 1336: 1322: 1318: 1312: 1301: 1292: 1286: 1251: 1245: 1227: 1221: 1198:{\displaystyle \psi (\theta )} 1192: 1186: 1143: 1137: 1099: 1093: 1084: 1052: 1046: 1037: 1017: 1010: 998: 992: 983: 954: 899: 887: 836: 830: 804: 792: 726: 714: 626: 623: 611: 605: 593: 581: 530: 518: 472: 466: 440: 434: 405: 399: 384: 378: 369: 340: 334: 281: 247: 235: 1: 11502:Bos, Adriaan van den (2007). 11447:. Prentice Hall. p. 47. 10914:Calcutta Mathematical Society 10552:so its mean squared error is 6449:, is zero. This is because: 424:where the Fisher information 10937:Selected Papers of C. R. Rao 7519:-variate normal distribution 6155:{\displaystyle f(x;\theta )} 5239:The scalar case states that 4839:{\displaystyle \mathbb {R} } 4346:{\displaystyle f(x;\theta )} 4268:{\displaystyle f(x;\theta )} 3867:{\displaystyle f(x;\theta )} 3837:probability density function 2154:{\displaystyle 1/I(\theta )} 1910:{\displaystyle b(\theta )=0} 732:{\displaystyle f(x;\theta )} 704:with respect to the density 253:{\displaystyle f(x;\theta )} 224:probability density function 137: 7: 11278:10.1007/978-93-86279-56-9_2 11120:. Oxford University Press. 10826: 8551:. What is the variance of 8502:{\displaystyle \sigma ^{2}} 8380:{\displaystyle \sigma ^{2}} 7949:{\displaystyle \sigma ^{2}} 7504: 5911:(based on the observations 4355:continuously differentiable 1156:, whose expectation is not 10: 11608: 11219:Bhattacharyya, A. (1948). 11180:Bhattacharyya, A. (1947). 11141:Bhattacharyya, A. (1946). 1764:{\displaystyle b(\theta )} 1466:{\displaystyle I(\theta )} 446:{\displaystyle I(\theta )} 346:{\displaystyle I(\theta )} 25:standard deviation ellipse 11407:Polyanskiy, Yury (2017). 11088:The American Statistician 11056:10.1017/S008045410000618X 7612:Fisher information matrix 7225:Cauchy–Schwarz inequality 4353:has infinite support, is 3598:Fisher information matrix 2415:{\displaystyle d\times d} 2394:Fisher information matrix 941:of an unbiased estimator 106:minimum variance unbiased 11587:Statistical inequalities 11260:Connected at Infinity II 10843:Brascamp–Lieb inequality 4963:, the scalar case gives 4383: 2385:which satisfies the two 11543:Mathematical Statistics 11521:Kay, Steven M. (1993). 11114:Dodge, Yadolah (2003). 11005:Rev. Int. Inst. Statist 10970:Rev. Inst. Int. Statist 10867:Cramér, Harald (1946). 10848:Lehmann–Scheffé theorem 7922:{\displaystyle \theta } 5991:{\displaystyle \theta } 5411:{\displaystyle \delta } 4421:{\displaystyle \delta } 4370:{\displaystyle \theta } 4308:{\displaystyle \theta } 4275:has bounded support in 4060:{\displaystyle \theta } 3210:{\displaystyle A\geq B} 2448:{\displaystyle I_{m,k}} 2161:. For instance, in the 1437:{\displaystyle \theta } 1169:{\displaystyle \theta } 317:is then bounded by the 310:{\displaystyle \theta } 175:{\displaystyle \theta } 11545:. New York: Springer. 11393:10.1214/aos/1176350602 10817: 10791: 10765: 10733: 10543: 10443: 10340: 10289: 10226: 10173: 10118: 10098: 10075: 9768: 9745: 9453: 9218:. Thus in this case, 9208: 9185: 9096: 9066: 8990: 8950: 8900: 8682: 8616: 8545: 8503: 8469: 8426: 8381: 8354: 8318: 8246: 8201: 8044: 7950: 7923: 7903: 7883: 7844: 7601: 7492: 7341: 7211: 6816: 6778: 6719: 6699: 6679: 6631: 6443: 6411: 6380: 6248: 6228: 6201:, which is used as an 6191: 6190:{\displaystyle T=t(X)} 6156: 6117: 6094: 5992: 5972: 5925: 5905: 5876: 5875:{\displaystyle T=t(X)} 5826: 5728: 5708: 5597: 5493:in the single-variate 5487: 5447: 5412: 5389: 5328: 5233: 5138: 5103: 4957: 4904: 4869: 4846:. Because for general 4840: 4818: 4781: 4680: 4497: 4457: 4422: 4371: 4347: 4309: 4289: 4269: 4231: 4081: 4061: 4041: 4024:exists, and is finite. 4018: 3962: 3921: 3897: 3868: 3821: 3587: 3498: 3455: 3429: 3393: 3334: 3307: 3237: 3211: 3191:The matrix inequality 3178: 3062: 2945: 2910: 2877: 2834: 2740: 2706: 2449: 2416: 2379: 2339: 2226: 2155: 2118: 2069: 1911: 1873: 1765: 1736: 1713:. Thus, any estimator 1707: 1643: 1614: 1564: 1505: 1467: 1438: 1418: 1389: 1352: 1264: 1199: 1170: 1150: 1112: 1062: 964: 928: 811: 773: 753: 733: 694: 661: 633: 562: 447: 415: 347: 311: 291: 254: 216: 196: 176: 28: 11479:Advanced Econometrics 10838:Kullback's inequality 10833:Chapman–Robbins bound 10818: 10792: 10766: 10734: 10544: 10444: 10341: 10269: 10227: 10174: 10119: 10099: 10076: 9769: 9746: 9454: 9209: 9186: 9097: 9067: 8991: 8951: 8911:moment about the mean 8901: 8662: 8596: 8546: 8504: 8470: 8406: 8382: 8360:and unknown variance 8355: 8319: 8247: 8181: 8045: 7951: 7924: 7904: 7884: 7845: 7602: 7493: 7342: 7212: 6817: 6779: 6720: 6700: 6680: 6632: 6444: 6412: 6381: 6249: 6229: 6192: 6157: 6118: 6095: 5993: 5973: 5926: 5906: 5877: 5827: 5729: 5709: 5598: 5495:Chapman–Robbins bound 5488: 5448: 5413: 5390: 5329: 5234: 5139: 5104: 4958: 4905: 4870: 4841: 4819: 4782: 4690:Chapman–Robbins bound 4681: 4498: 4458: 4423: 4391:Chapman–Robbins bound 4372: 4348: 4310: 4290: 4270: 4232: 4082: 4062: 4042: 4019: 3963: 3922: 3898: 3869: 3831:Regularity conditions 3822: 3588: 3499: 3456: 3430: 3394: 3335: 3308: 3245:positive semidefinite 3238: 3212: 3179: 3063: 2946: 2911: 2878: 2835: 2741: 2707: 2450: 2417: 2387:regularity conditions 2380: 2340: 2227: 2156: 2119: 2070: 1912: 1874: 1766: 1737: 1708: 1644: 1615: 1565: 1506: 1468: 1439: 1419: 1395:is the derivative of 1390: 1353: 1265: 1200: 1171: 1151: 1113: 1063: 965: 929: 812: 774: 754: 734: 695: 662: 634: 563: 448: 416: 348: 312: 292: 255: 217: 197: 177: 152:later in this section 146:and its estimator is 22: 10854:References and notes 10801: 10775: 10749: 10559: 10459: 10356: 10257: 10188: 10128: 10108: 10088: 9781: 9758: 9466: 9225: 9198: 9109: 9086: 9003: 8960: 8917: 8562: 8513: 8486: 8394: 8364: 8353:{\displaystyle \mu } 8344: 8338:normally distributed 8262: 8060: 7963: 7933: 7913: 7893: 7864: 7621: 7527: 7357: 7234: 6829: 6788: 6729: 6709: 6689: 6651: 6456: 6421: 6401: 6265: 6238: 6209: 6166: 6131: 6107: 6005: 5982: 5935: 5915: 5886: 5851: 5738: 5718: 5610: 5501: 5457: 5422: 5402: 5338: 5243: 5148: 5144:, so we can conclude 5113: 4967: 4914: 4879: 4868:{\displaystyle T(X)} 4850: 4828: 4817:{\displaystyle h(X)} 4799: 4696: 4507: 4467: 4432: 4412: 4361: 4322: 4299: 4279: 4244: 4091: 4071: 4051: 4031: 3972: 3931: 3911: 3896:{\displaystyle T(X)} 3878: 3874:, and the estimator 3843: 3607: 3511: 3465: 3443: 3408: 3344: 3340:element is given by 3321: 3253: 3221: 3195: 3074: 2958: 2924: 2887: 2844: 2750: 2719: 2462: 2426: 2422:matrix with element 2400: 2352: 2250: 2169: 2128: 2082: 1931: 1886: 1778: 1746: 1717: 1653: 1624: 1574: 1515: 1486: 1448: 1428: 1399: 1365: 1277: 1209: 1180: 1160: 1149:{\displaystyle T(X)} 1131: 1078: 977: 945: 824: 786: 763: 743: 708: 671: 651: 647:for a single sample 575: 460: 428: 360: 328: 301: 272: 229: 206: 186: 166: 158:Scalar unbiased case 11443:Kay, S. M. (1993). 10939:. New York: Wiley. 10816:{\displaystyle n+2} 10790:{\displaystyle n-1} 10764:{\displaystyle n+1} 9216:likelihood function 7929:and known variance 6644:If we consider the 5842:general scalar case 5606:By linear algebra, 5109:This holds for all 3236:{\displaystyle A-B} 1123:General scalar case 645:likelihood function 11541:Shao, Jun (1998). 11360:"Cramér-Rao Bound" 10813: 10787: 10761: 10729: 10539: 10439: 10336: 10248:mean squared error 10222: 10169: 10114: 10094: 10071: 9764: 9741: 9449: 9204: 9181: 9092: 9077:Fisher information 9062: 8986: 8946: 8896: 8541: 8499: 8465: 8377: 8350: 8314: 8242: 8040: 7946: 7919: 7899: 7879: 7853:where "tr" is the 7840: 7597: 7514:For the case of a 7488: 7337: 7207: 7205: 6812: 6774: 6715: 6695: 6675: 6627: 6439: 6407: 6376: 6244: 6224: 6187: 6152: 6113: 6090: 5988: 5968: 5921: 5901: 5872: 5822: 5724: 5704: 5628: 5593: 5483: 5443: 5408: 5385: 5324: 5229: 5134: 5099: 4953: 4932: 4900: 4875:, we can take any 4865: 4836: 4814: 4777: 4676: 4493: 4453: 4418: 4401: 4367: 4343: 4305: 4285: 4265: 4227: 4077: 4057: 4037: 4014: 3958: 3917: 3893: 3864: 3817: 3583: 3494: 3451: 3425: 3389: 3333:{\displaystyle ij} 3330: 3303: 3233: 3207: 3174: 3058: 2941: 2906: 2873: 2830: 2736: 2702: 2445: 2412: 2375: 2335: 2222: 2151: 2114: 2065: 1922:mean squared error 1907: 1869: 1761: 1732: 1703: 1639: 1610: 1560: 1501: 1463: 1434: 1414: 1385: 1348: 1260: 1195: 1166: 1146: 1108: 1058: 960: 924: 807: 769: 749: 729: 690: 657: 629: 558: 443: 411: 343: 323:Fisher information 307: 287: 250: 212: 192: 172: 117:mean squared error 102:mean squared error 85:Fisher information 81:unbiased estimator 73:Harold Silverstone 29: 11592:Estimation theory 11525:. Prentice Hall. 11513:978-0-470-14781-8 11287:978-93-80250-51-9 11127:978-0-19-920613-1 10946:978-0-470-22091-7 10727: 10653: 10619: 10537: 10489: 10434: 10331: 10217: 10164: 10117:{\displaystyle n} 10097:{\displaystyle n} 10066: 10028: 9990: 9943: 9905: 9828: 9767:{\displaystyle V} 9739: 9680: 9647: 9598: 9561: 9495: 9447: 9398: 9306: 9305: 9207:{\displaystyle L} 9138: 9095:{\displaystyle V} 9075:Now, what is the 9057: 8792: 8779: 8729: 8650: 8460: 8309: 8284: 8237: 8217: 8172: 8112: 7902:{\displaystyle n} 7882:{\displaystyle w} 7860:For example, let 7833: 7789: 7734: 7721: 7677: 7486: 7431: 7269: 7167: 7099: 7026: 7011: 6926: 6911: 6718:{\displaystyle T} 6698:{\displaystyle V} 6591: 6543: 6528: 6410:{\displaystyle V} 6356: 6341: 6287: 6247:{\displaystyle V} 6116:{\displaystyle X} 6085: 5924:{\displaystyle X} 5734:, thus we obtain 5727:{\displaystyle M} 5673: 5613: 5591: 4923: 4824:taking values in 4399: 4288:{\displaystyle x} 4195: 4107: 4080:{\displaystyle T} 4040:{\displaystyle x} 3988: 3920:{\displaystyle x} 2918:covariance matrix 2662: 2567: 2515: 2236:Multivariate case 2214: 2038: 1957: 1864: 1800: 1729: 1548: 1498: 1346: 1096: 1056: 1049: 995: 957: 918: 772:{\displaystyle X} 752:{\displaystyle X} 660:{\displaystyle x} 641:natural logarithm 542: 409: 381: 284: 215:{\displaystyle x} 195:{\displaystyle n} 33:estimation theory 11599: 11557:. Section 3.1.3. 11556: 11536: 11517: 11498: 11482: 11473:Amemiya, Takeshi 11459: 11458: 11440: 11434: 11433: 11431: 11430: 11424: 11413: 11404: 11398: 11397: 11395: 11370: 11364: 11363: 11356: 11350: 11349: 11338: 11332: 11331: 11329: 11328: 11322: 11316:. Archived from 11315: 11306: 11300: 11299: 11271: 11255: 11249: 11248: 11216: 11210: 11209: 11177: 11171: 11170: 11138: 11132: 11131: 11111: 11105: 11104: 11082: 11076: 11075: 11035: 11029: 11028: 11000: 10994: 10993: 10976:(3/4): 182–205. 10965: 10959: 10958: 10932: 10926: 10925: 10899: 10893: 10892: 10864: 10822: 10820: 10819: 10814: 10796: 10794: 10793: 10788: 10770: 10768: 10767: 10762: 10738: 10736: 10735: 10730: 10728: 10726: 10715: 10714: 10713: 10704: 10703: 10687: 10682: 10681: 10672: 10671: 10659: 10655: 10654: 10652: 10651: 10650: 10625: 10620: 10618: 10617: 10616: 10594: 10586: 10548: 10546: 10545: 10540: 10538: 10536: 10525: 10524: 10523: 10510: 10505: 10504: 10495: 10491: 10490: 10488: 10474: 10448: 10446: 10445: 10440: 10435: 10433: 10432: 10431: 10409: 10408: 10407: 10398: 10397: 10378: 10345: 10343: 10342: 10337: 10332: 10330: 10319: 10318: 10317: 10302: 10301: 10288: 10283: 10267: 10231: 10229: 10228: 10223: 10218: 10210: 10178: 10176: 10175: 10170: 10165: 10163: 10162: 10161: 10152: 10151: 10132: 10123: 10121: 10120: 10115: 10103: 10101: 10100: 10095: 10080: 10078: 10077: 10072: 10067: 10065: 10064: 10063: 10054: 10053: 10034: 10029: 10027: 10026: 10025: 10016: 10015: 9996: 9991: 9989: 9988: 9987: 9978: 9977: 9964: 9963: 9954: 9949: 9945: 9944: 9942: 9941: 9940: 9931: 9930: 9911: 9906: 9904: 9903: 9902: 9893: 9892: 9879: 9878: 9877: 9855: 9833: 9829: 9827: 9826: 9825: 9812: 9804: 9773: 9771: 9770: 9765: 9750: 9748: 9747: 9742: 9740: 9738: 9737: 9736: 9727: 9726: 9710: 9709: 9708: 9686: 9681: 9679: 9678: 9677: 9661: 9653: 9649: 9648: 9646: 9645: 9644: 9631: 9630: 9629: 9607: 9599: 9597: 9596: 9581: 9562: 9560: 9559: 9558: 9542: 9537: 9533: 9523: 9522: 9496: 9494: 9493: 9492: 9476: 9458: 9456: 9455: 9450: 9448: 9446: 9445: 9444: 9431: 9430: 9429: 9407: 9399: 9397: 9396: 9381: 9364: 9360: 9359: 9358: 9357: 9356: 9355: 9342: 9337: 9336: 9307: 9304: 9303: 9288: 9284: 9268: 9264: 9254: 9253: 9213: 9211: 9210: 9205: 9190: 9188: 9187: 9182: 9180: 9176: 9166: 9165: 9139: 9137: 9136: 9135: 9119: 9101: 9099: 9098: 9093: 9071: 9069: 9068: 9063: 9058: 9053: 9052: 9051: 9042: 9041: 9025: 8995: 8993: 8992: 8987: 8985: 8984: 8975: 8974: 8955: 8953: 8952: 8947: 8945: 8944: 8935: 8934: 8905: 8903: 8902: 8897: 8895: 8891: 8890: 8889: 8884: 8880: 8876: 8875: 8836: 8832: 8831: 8830: 8793: 8785: 8780: 8778: 8777: 8768: 8767: 8766: 8735: 8730: 8728: 8727: 8718: 8717: 8716: 8701: 8700: 8681: 8676: 8660: 8655: 8651: 8646: 8645: 8644: 8629: 8628: 8615: 8610: 8594: 8550: 8548: 8547: 8542: 8540: 8539: 8508: 8506: 8505: 8500: 8498: 8497: 8482:is unbiased for 8474: 8472: 8471: 8466: 8461: 8456: 8455: 8454: 8439: 8438: 8425: 8420: 8404: 8386: 8384: 8383: 8378: 8376: 8375: 8359: 8357: 8356: 8351: 8323: 8321: 8320: 8315: 8310: 8305: 8304: 8295: 8290: 8286: 8285: 8277: 8251: 8249: 8248: 8243: 8238: 8236: 8235: 8223: 8218: 8216: 8215: 8203: 8200: 8195: 8177: 8173: 8171: 8163: 8153: 8144: 8138: 8137: 8129: 8123: 8122: 8117: 8113: 8111: 8103: 8093: 8084: 8049: 8047: 8046: 8041: 8036: 8032: 8031: 8026: 8025: 8013: 8000: 7999: 7988: 7987: 7955: 7953: 7952: 7947: 7945: 7944: 7928: 7926: 7925: 7920: 7908: 7906: 7905: 7900: 7888: 7886: 7885: 7880: 7849: 7847: 7846: 7841: 7839: 7835: 7834: 7832: 7831: 7830: 7817: 7816: 7807: 7805: 7804: 7796: 7790: 7788: 7787: 7786: 7773: 7772: 7763: 7761: 7760: 7752: 7735: 7727: 7722: 7720: 7719: 7718: 7705: 7704: 7695: 7693: 7692: 7684: 7678: 7676: 7675: 7674: 7661: 7660: 7659: 7654: 7644: 7639: 7638: 7606: 7604: 7603: 7598: 7596: 7592: 7588: 7580: 7569: 7561: 7551: 7550: 7545: 7544: 7534: 7497: 7495: 7494: 7489: 7487: 7485: 7471: 7470: 7469: 7451: 7450: 7437: 7432: 7430: 7413: 7412: 7411: 7393: 7392: 7379: 7346: 7344: 7343: 7338: 7336: 7332: 7322: 7321: 7304: 7300: 7270: 7238: 7216: 7214: 7213: 7208: 7206: 7193: 7192: 7168: 7166: 7155: 7150: 7146: 7100: 7098: 7087: 7079: 7050: 7046: 7027: 7025: 7014: 7012: 7010: 6987: 6959: 6955: 6951: 6950: 6946: 6927: 6925: 6914: 6912: 6910: 6887: 6821: 6819: 6818: 6813: 6783: 6781: 6780: 6775: 6724: 6722: 6721: 6716: 6704: 6702: 6701: 6696: 6684: 6682: 6681: 6676: 6636: 6634: 6633: 6628: 6592: 6590: 6579: 6567: 6563: 6544: 6542: 6531: 6529: 6527: 6504: 6448: 6446: 6445: 6440: 6416: 6414: 6413: 6408: 6385: 6383: 6382: 6377: 6357: 6355: 6344: 6342: 6340: 6317: 6288: 6286: 6275: 6253: 6251: 6250: 6245: 6233: 6231: 6230: 6225: 6196: 6194: 6193: 6188: 6161: 6159: 6158: 6153: 6122: 6120: 6119: 6114: 6099: 6097: 6096: 6091: 6086: 6084: 6070: 6069: 6068: 6050: 6049: 6036: 5997: 5995: 5994: 5989: 5977: 5975: 5974: 5969: 5930: 5928: 5927: 5922: 5910: 5908: 5907: 5902: 5881: 5879: 5878: 5873: 5831: 5829: 5828: 5823: 5806: 5805: 5784: 5783: 5750: 5749: 5733: 5731: 5730: 5725: 5713: 5711: 5710: 5705: 5700: 5699: 5687: 5686: 5674: 5672: 5665: 5664: 5654: 5653: 5652: 5630: 5627: 5602: 5600: 5599: 5594: 5592: 5590: 5574: 5573: 5563: 5562: 5561: 5530: 5513: 5512: 5492: 5490: 5489: 5484: 5467: 5452: 5450: 5449: 5444: 5442: 5441: 5436: 5417: 5415: 5414: 5409: 5394: 5392: 5391: 5386: 5375: 5374: 5365: 5364: 5333: 5331: 5330: 5325: 5311: 5310: 5289: 5288: 5255: 5254: 5238: 5236: 5235: 5230: 5228: 5227: 5209: 5208: 5160: 5159: 5143: 5141: 5140: 5135: 5133: 5132: 5127: 5108: 5106: 5105: 5100: 5095: 5094: 5076: 5075: 5042: 5041: 5014: 5013: 5004: 5003: 4979: 4978: 4962: 4960: 4959: 4954: 4952: 4951: 4942: 4941: 4931: 4910:, then defining 4909: 4907: 4906: 4901: 4899: 4898: 4893: 4874: 4872: 4871: 4866: 4845: 4843: 4842: 4837: 4835: 4823: 4821: 4820: 4815: 4791:Second equation: 4786: 4784: 4783: 4778: 4776: 4775: 4757: 4756: 4735: 4734: 4685: 4683: 4682: 4677: 4675: 4674: 4650: 4649: 4634: 4633: 4621: 4620: 4619: 4603: 4602: 4574: 4573: 4549: 4548: 4527: 4526: 4525: 4502: 4500: 4499: 4494: 4477: 4462: 4460: 4459: 4454: 4452: 4451: 4446: 4427: 4425: 4424: 4419: 4396:Proof based on. 4376: 4374: 4373: 4368: 4352: 4350: 4349: 4344: 4314: 4312: 4311: 4306: 4294: 4292: 4291: 4286: 4274: 4272: 4271: 4266: 4236: 4234: 4233: 4228: 4219: 4215: 4196: 4194: 4183: 4158: 4154: 4108: 4106: 4095: 4086: 4084: 4083: 4078: 4066: 4064: 4063: 4058: 4046: 4044: 4043: 4038: 4023: 4021: 4020: 4015: 3989: 3987: 3976: 3967: 3965: 3964: 3959: 3926: 3924: 3923: 3918: 3902: 3900: 3899: 3894: 3873: 3871: 3870: 3865: 3826: 3824: 3823: 3818: 3813: 3812: 3804: 3800: 3799: 3791: 3787: 3786: 3782: 3756: 3755: 3747: 3743: 3742: 3741: 3733: 3729: 3707: 3706: 3698: 3694: 3693: 3689: 3679: 3666: 3665: 3635: 3634: 3619: 3618: 3592: 3590: 3589: 3584: 3579: 3578: 3570: 3566: 3550: 3546: 3536: 3523: 3522: 3503: 3501: 3500: 3495: 3493: 3485: 3481: 3472: 3460: 3458: 3457: 3452: 3450: 3434: 3432: 3431: 3426: 3415: 3398: 3396: 3395: 3390: 3388: 3387: 3375: 3367: 3359: 3358: 3339: 3337: 3336: 3331: 3312: 3310: 3309: 3304: 3302: 3294: 3286: 3278: 3242: 3240: 3239: 3234: 3216: 3214: 3213: 3208: 3183: 3181: 3180: 3175: 3173: 3172: 3154: 3153: 3145: 3141: 3113: 3109: 3099: 3086: 3085: 3067: 3065: 3064: 3059: 3045: 3044: 3036: 3032: 3022: 3008: 3007: 2998: 2997: 2976: 2972: 2950: 2948: 2947: 2942: 2931: 2915: 2913: 2912: 2907: 2902: 2894: 2882: 2880: 2879: 2874: 2860: 2839: 2837: 2836: 2831: 2829: 2828: 2810: 2809: 2782: 2781: 2757: 2745: 2743: 2742: 2737: 2726: 2711: 2709: 2708: 2703: 2698: 2694: 2693: 2689: 2688: 2663: 2661: 2660: 2659: 2646: 2645: 2632: 2631: 2622: 2603: 2599: 2598: 2594: 2593: 2568: 2566: 2565: 2564: 2548: 2546: 2542: 2541: 2516: 2514: 2513: 2512: 2496: 2480: 2479: 2454: 2452: 2451: 2446: 2444: 2443: 2421: 2419: 2418: 2413: 2384: 2382: 2381: 2376: 2371: 2344: 2342: 2341: 2336: 2334: 2333: 2328: 2319: 2318: 2313: 2309: 2308: 2307: 2289: 2288: 2276: 2275: 2257: 2231: 2229: 2228: 2223: 2215: 2213: 2199: 2185: 2160: 2158: 2157: 2152: 2138: 2123: 2121: 2120: 2115: 2098: 2074: 2072: 2071: 2066: 2061: 2060: 2039: 2037: 2023: 2022: 2021: 2003: 1985: 1980: 1976: 1975: 1974: 1959: 1958: 1950: 1916: 1914: 1913: 1908: 1878: 1876: 1875: 1870: 1865: 1863: 1849: 1848: 1847: 1829: 1811: 1806: 1802: 1801: 1793: 1770: 1768: 1767: 1762: 1741: 1739: 1738: 1733: 1731: 1730: 1722: 1712: 1710: 1709: 1704: 1690: 1685: 1684: 1666: 1648: 1646: 1645: 1640: 1619: 1617: 1616: 1611: 1569: 1567: 1566: 1561: 1550: 1549: 1541: 1510: 1508: 1507: 1502: 1500: 1499: 1491: 1472: 1470: 1469: 1464: 1443: 1441: 1440: 1435: 1423: 1421: 1420: 1415: 1394: 1392: 1391: 1386: 1375: 1357: 1355: 1354: 1349: 1347: 1345: 1331: 1330: 1329: 1311: 1299: 1269: 1267: 1266: 1261: 1204: 1202: 1201: 1196: 1175: 1173: 1172: 1167: 1155: 1153: 1152: 1147: 1117: 1115: 1114: 1109: 1098: 1097: 1089: 1067: 1065: 1064: 1059: 1057: 1055: 1051: 1050: 1042: 1029: 1028: 1027: 1005: 997: 996: 988: 969: 967: 966: 961: 959: 958: 950: 933: 931: 930: 925: 923: 919: 917: 916: 915: 902: 883: 882: 872: 863: 862: 816: 814: 813: 808: 778: 776: 775: 770: 758: 756: 755: 750: 738: 736: 735: 730: 699: 697: 696: 691: 689: 688: 666: 664: 663: 658: 638: 636: 635: 630: 567: 565: 564: 559: 557: 553: 552: 547: 543: 541: 533: 510: 496: 495: 452: 450: 449: 444: 420: 418: 417: 412: 410: 408: 391: 383: 382: 374: 352: 350: 349: 344: 316: 314: 313: 308: 296: 294: 293: 288: 286: 285: 277: 259: 257: 256: 251: 221: 219: 218: 213: 201: 199: 198: 193: 181: 179: 178: 173: 132:A. Bhattacharyya 69:Alexander Aitken 41:Cramér–Rao bound 11607: 11606: 11602: 11601: 11600: 11598: 11597: 11596: 11577: 11576: 11567: 11553: 11533: 11514: 11495: 11468: 11466:Further reading 11463: 11462: 11455: 11441: 11437: 11428: 11426: 11422: 11411: 11405: 11401: 11371: 11367: 11358: 11357: 11353: 11340: 11339: 11335: 11326: 11324: 11320: 11313: 11307: 11303: 11288: 11256: 11252: 11217: 11213: 11178: 11174: 11139: 11135: 11128: 11112: 11108: 11083: 11079: 11036: 11032: 11017:10.2307/1400974 11001: 10997: 10982:10.2307/1401114 10966: 10962: 10947: 10933: 10929: 10900: 10896: 10881: 10865: 10861: 10856: 10829: 10802: 10799: 10798: 10776: 10773: 10772: 10750: 10747: 10746: 10716: 10709: 10705: 10699: 10695: 10688: 10686: 10677: 10673: 10667: 10663: 10646: 10642: 10629: 10624: 10612: 10608: 10595: 10587: 10585: 10584: 10580: 10560: 10557: 10556: 10526: 10519: 10515: 10511: 10509: 10500: 10496: 10478: 10473: 10466: 10462: 10460: 10457: 10456: 10427: 10423: 10410: 10403: 10399: 10393: 10389: 10379: 10377: 10357: 10354: 10353: 10320: 10313: 10309: 10297: 10293: 10284: 10273: 10268: 10266: 10258: 10255: 10254: 10209: 10189: 10186: 10185: 10157: 10153: 10147: 10143: 10136: 10131: 10129: 10126: 10125: 10124:times this, or 10109: 10106: 10105: 10089: 10086: 10085: 10059: 10055: 10049: 10045: 10038: 10033: 10021: 10017: 10011: 10007: 10000: 9995: 9983: 9979: 9973: 9969: 9965: 9959: 9955: 9953: 9936: 9932: 9926: 9922: 9915: 9910: 9898: 9894: 9888: 9884: 9880: 9873: 9869: 9856: 9854: 9850: 9846: 9821: 9817: 9813: 9805: 9803: 9799: 9782: 9779: 9778: 9759: 9756: 9755: 9732: 9728: 9722: 9718: 9711: 9704: 9700: 9687: 9685: 9673: 9669: 9665: 9660: 9640: 9636: 9632: 9625: 9621: 9608: 9606: 9592: 9588: 9580: 9567: 9563: 9554: 9550: 9546: 9541: 9518: 9514: 9507: 9503: 9488: 9484: 9480: 9475: 9467: 9464: 9463: 9440: 9436: 9432: 9425: 9421: 9408: 9406: 9392: 9388: 9380: 9351: 9347: 9343: 9338: 9332: 9328: 9312: 9308: 9299: 9295: 9283: 9282: 9278: 9249: 9245: 9238: 9234: 9226: 9223: 9222: 9199: 9196: 9195: 9161: 9157: 9150: 9146: 9131: 9127: 9123: 9118: 9110: 9107: 9106: 9087: 9084: 9083: 9047: 9043: 9037: 9033: 9026: 9024: 9004: 9001: 9000: 8980: 8976: 8970: 8966: 8961: 8958: 8957: 8940: 8936: 8930: 8926: 8918: 8915: 8914: 8885: 8871: 8867: 8845: 8841: 8840: 8826: 8822: 8809: 8805: 8798: 8794: 8784: 8773: 8769: 8762: 8758: 8736: 8734: 8723: 8719: 8712: 8708: 8696: 8692: 8677: 8666: 8661: 8659: 8640: 8636: 8624: 8620: 8611: 8600: 8595: 8593: 8589: 8563: 8560: 8559: 8535: 8531: 8514: 8511: 8510: 8493: 8489: 8487: 8484: 8483: 8450: 8446: 8434: 8430: 8421: 8410: 8405: 8403: 8395: 8392: 8391: 8371: 8367: 8365: 8362: 8361: 8345: 8342: 8341: 8330: 8300: 8296: 8294: 8276: 8275: 8271: 8263: 8260: 8259: 8231: 8227: 8222: 8211: 8207: 8202: 8196: 8185: 8164: 8149: 8145: 8143: 8139: 8130: 8125: 8124: 8118: 8104: 8089: 8085: 8083: 8079: 8078: 8061: 8058: 8057: 8027: 8021: 8017: 8009: 8005: 8001: 7989: 7983: 7982: 7981: 7964: 7961: 7960: 7940: 7936: 7934: 7931: 7930: 7914: 7911: 7910: 7894: 7891: 7890: 7889:be a sample of 7865: 7862: 7861: 7826: 7822: 7818: 7812: 7808: 7806: 7797: 7792: 7791: 7782: 7778: 7774: 7768: 7764: 7762: 7753: 7748: 7747: 7746: 7742: 7726: 7714: 7710: 7706: 7700: 7696: 7694: 7685: 7680: 7679: 7670: 7666: 7662: 7655: 7650: 7649: 7645: 7643: 7628: 7624: 7622: 7619: 7618: 7584: 7576: 7565: 7557: 7556: 7552: 7546: 7540: 7539: 7538: 7530: 7528: 7525: 7524: 7512: 7507: 7472: 7465: 7461: 7446: 7442: 7438: 7436: 7414: 7407: 7403: 7388: 7384: 7380: 7378: 7358: 7355: 7354: 7317: 7313: 7312: 7308: 7278: 7274: 7237: 7235: 7232: 7231: 7204: 7203: 7188: 7184: 7159: 7154: 7105: 7101: 7091: 7086: 7077: 7076: 7018: 7013: 6991: 6986: 6985: 6981: 6957: 6956: 6918: 6913: 6891: 6886: 6885: 6881: 6874: 6870: 6857: 6832: 6830: 6827: 6826: 6789: 6786: 6785: 6730: 6727: 6726: 6710: 6707: 6706: 6690: 6687: 6686: 6652: 6649: 6648: 6643: 6583: 6578: 6535: 6530: 6508: 6503: 6502: 6498: 6457: 6454: 6453: 6422: 6419: 6418: 6402: 6399: 6398: 6348: 6343: 6321: 6316: 6279: 6274: 6266: 6263: 6262: 6239: 6236: 6235: 6210: 6207: 6206: 6167: 6164: 6163: 6132: 6129: 6128: 6125:random variable 6108: 6105: 6104: 6071: 6064: 6060: 6045: 6041: 6037: 6035: 6006: 6003: 6002: 5983: 5980: 5979: 5936: 5933: 5932: 5916: 5913: 5912: 5887: 5884: 5883: 5852: 5849: 5848: 5838: 5833: 5798: 5794: 5779: 5775: 5745: 5741: 5739: 5736: 5735: 5719: 5716: 5715: 5692: 5688: 5682: 5678: 5660: 5656: 5655: 5648: 5644: 5631: 5629: 5617: 5611: 5608: 5607: 5569: 5565: 5564: 5557: 5553: 5531: 5529: 5508: 5504: 5502: 5499: 5498: 5460: 5458: 5455: 5454: 5437: 5432: 5431: 5423: 5420: 5419: 5403: 5400: 5399: 5370: 5366: 5360: 5356: 5339: 5336: 5335: 5303: 5299: 5284: 5280: 5250: 5246: 5244: 5241: 5240: 5223: 5219: 5201: 5197: 5155: 5151: 5149: 5146: 5145: 5128: 5123: 5122: 5114: 5111: 5110: 5090: 5086: 5068: 5064: 5037: 5033: 5009: 5005: 4999: 4995: 4974: 4970: 4968: 4965: 4964: 4947: 4943: 4937: 4933: 4927: 4915: 4912: 4911: 4894: 4889: 4888: 4880: 4877: 4876: 4851: 4848: 4847: 4831: 4829: 4826: 4825: 4800: 4797: 4796: 4771: 4767: 4749: 4745: 4730: 4726: 4697: 4694: 4693: 4670: 4666: 4645: 4641: 4629: 4625: 4612: 4611: 4607: 4598: 4594: 4569: 4565: 4544: 4540: 4518: 4517: 4513: 4508: 4505: 4504: 4470: 4468: 4465: 4464: 4447: 4442: 4441: 4433: 4430: 4429: 4413: 4410: 4409: 4404:First equation: 4394: 4386: 4362: 4359: 4358: 4323: 4320: 4319: 4300: 4297: 4296: 4280: 4277: 4276: 4245: 4242: 4241: 4187: 4182: 4181: 4177: 4113: 4109: 4099: 4094: 4092: 4089: 4088: 4072: 4069: 4068: 4052: 4049: 4048: 4032: 4029: 4028: 3980: 3975: 3973: 3970: 3969: 3932: 3929: 3928: 3912: 3909: 3908: 3879: 3876: 3875: 3844: 3841: 3840: 3833: 3805: 3792: 3778: 3774: 3770: 3766: 3765: 3761: 3760: 3748: 3734: 3725: 3721: 3720: 3716: 3712: 3711: 3699: 3675: 3674: 3670: 3661: 3657: 3656: 3652: 3651: 3630: 3626: 3614: 3610: 3608: 3605: 3604: 3571: 3562: 3558: 3557: 3532: 3531: 3527: 3518: 3514: 3512: 3509: 3508: 3489: 3477: 3473: 3468: 3466: 3463: 3462: 3446: 3444: 3441: 3440: 3411: 3409: 3406: 3405: 3403: 3383: 3379: 3371: 3363: 3354: 3350: 3345: 3342: 3341: 3322: 3319: 3318: 3315:Jacobian matrix 3298: 3290: 3282: 3274: 3254: 3251: 3250: 3222: 3219: 3218: 3196: 3193: 3192: 3168: 3164: 3146: 3137: 3133: 3132: 3095: 3094: 3090: 3081: 3077: 3075: 3072: 3071: 3037: 3018: 3017: 3013: 3012: 3003: 2999: 2993: 2989: 2968: 2964: 2959: 2956: 2955: 2927: 2925: 2922: 2921: 2898: 2890: 2888: 2885: 2884: 2856: 2845: 2842: 2841: 2824: 2820: 2805: 2801: 2777: 2773: 2753: 2751: 2748: 2747: 2722: 2720: 2717: 2716: 2684: 2677: 2673: 2655: 2651: 2641: 2637: 2633: 2627: 2623: 2621: 2620: 2616: 2589: 2582: 2578: 2560: 2556: 2552: 2547: 2537: 2530: 2526: 2508: 2504: 2500: 2495: 2494: 2490: 2469: 2465: 2463: 2460: 2459: 2433: 2429: 2427: 2424: 2423: 2401: 2398: 2397: 2367: 2353: 2350: 2349: 2329: 2324: 2323: 2314: 2303: 2299: 2284: 2280: 2271: 2267: 2266: 2262: 2261: 2253: 2251: 2248: 2247: 2238: 2203: 2198: 2178: 2170: 2167: 2166: 2134: 2129: 2126: 2125: 2091: 2083: 2080: 2079: 2056: 2052: 2024: 2017: 2013: 1996: 1986: 1984: 1970: 1966: 1949: 1948: 1944: 1940: 1932: 1929: 1928: 1887: 1884: 1883: 1850: 1843: 1839: 1822: 1812: 1810: 1792: 1791: 1787: 1779: 1776: 1775: 1747: 1744: 1743: 1721: 1720: 1718: 1715: 1714: 1686: 1680: 1676: 1659: 1654: 1651: 1650: 1625: 1622: 1621: 1575: 1572: 1571: 1540: 1539: 1516: 1513: 1512: 1490: 1489: 1487: 1484: 1483: 1479: 1449: 1446: 1445: 1429: 1426: 1425: 1400: 1397: 1396: 1368: 1366: 1363: 1362: 1332: 1325: 1321: 1304: 1300: 1298: 1278: 1275: 1274: 1210: 1207: 1206: 1181: 1178: 1177: 1161: 1158: 1157: 1132: 1129: 1128: 1125: 1088: 1087: 1079: 1076: 1075: 1041: 1040: 1030: 1020: 1016: 1006: 1004: 987: 986: 978: 975: 974: 949: 948: 946: 943: 942: 911: 907: 903: 878: 874: 873: 871: 867: 852: 848: 825: 822: 821: 787: 784: 783: 764: 761: 760: 744: 741: 740: 709: 706: 705: 678: 674: 672: 669: 668: 652: 649: 648: 576: 573: 572: 548: 534: 511: 509: 505: 504: 500: 485: 481: 461: 458: 457: 429: 426: 425: 395: 390: 373: 372: 361: 358: 357: 329: 326: 325: 302: 299: 298: 276: 275: 273: 270: 269: 230: 227: 226: 207: 204: 203: 187: 184: 183: 167: 164: 163: 160: 140: 83:is at most the 65:Georges Darmois 61:Maurice Fréchet 17: 12: 11: 5: 11605: 11595: 11594: 11589: 11575: 11574: 11571:FandPLimitTool 11566: 11565:External links 11563: 11562: 11561: 11558: 11551: 11538: 11531: 11518: 11512: 11499: 11493: 11467: 11464: 11461: 11460: 11453: 11435: 11399: 11386:(4): 1421–38. 11365: 11351: 11333: 11301: 11286: 11250: 11231:(4): 315–328. 11211: 11192:(3): 201–218. 11172: 11133: 11126: 11106: 11077: 11050:(2): 186–194. 11030: 10995: 10960: 10945: 10927: 10894: 10879: 10858: 10857: 10855: 10852: 10851: 10850: 10845: 10840: 10835: 10828: 10825: 10812: 10809: 10806: 10786: 10783: 10780: 10771:, rather than 10760: 10757: 10754: 10740: 10739: 10725: 10722: 10719: 10712: 10708: 10702: 10698: 10694: 10691: 10685: 10680: 10676: 10670: 10666: 10662: 10658: 10649: 10645: 10641: 10638: 10635: 10632: 10628: 10623: 10615: 10611: 10607: 10604: 10601: 10598: 10593: 10590: 10583: 10579: 10576: 10573: 10570: 10567: 10564: 10550: 10549: 10535: 10532: 10529: 10522: 10518: 10514: 10508: 10503: 10499: 10494: 10487: 10484: 10481: 10477: 10472: 10469: 10465: 10450: 10449: 10438: 10430: 10426: 10422: 10419: 10416: 10413: 10406: 10402: 10396: 10392: 10388: 10385: 10382: 10376: 10373: 10370: 10367: 10364: 10361: 10347: 10346: 10335: 10329: 10326: 10323: 10316: 10312: 10308: 10305: 10300: 10296: 10292: 10287: 10282: 10279: 10276: 10272: 10265: 10262: 10233: 10232: 10221: 10216: 10213: 10208: 10205: 10202: 10199: 10196: 10193: 10168: 10160: 10156: 10150: 10146: 10142: 10139: 10135: 10113: 10093: 10082: 10081: 10070: 10062: 10058: 10052: 10048: 10044: 10041: 10037: 10032: 10024: 10020: 10014: 10010: 10006: 10003: 9999: 9994: 9986: 9982: 9976: 9972: 9968: 9962: 9958: 9952: 9948: 9939: 9935: 9929: 9925: 9921: 9918: 9914: 9909: 9901: 9897: 9891: 9887: 9883: 9876: 9872: 9868: 9865: 9862: 9859: 9853: 9849: 9845: 9842: 9839: 9836: 9832: 9824: 9820: 9816: 9811: 9808: 9802: 9798: 9795: 9792: 9789: 9786: 9763: 9752: 9751: 9735: 9731: 9725: 9721: 9717: 9714: 9707: 9703: 9699: 9696: 9693: 9690: 9684: 9676: 9672: 9668: 9664: 9659: 9656: 9652: 9643: 9639: 9635: 9628: 9624: 9620: 9617: 9614: 9611: 9605: 9602: 9595: 9591: 9587: 9584: 9579: 9576: 9573: 9570: 9566: 9557: 9553: 9549: 9545: 9540: 9536: 9532: 9529: 9526: 9521: 9517: 9513: 9510: 9506: 9502: 9499: 9491: 9487: 9483: 9479: 9474: 9471: 9460: 9459: 9443: 9439: 9435: 9428: 9424: 9420: 9417: 9414: 9411: 9405: 9402: 9395: 9391: 9387: 9384: 9379: 9376: 9373: 9370: 9367: 9363: 9354: 9350: 9346: 9341: 9335: 9331: 9327: 9324: 9321: 9318: 9315: 9311: 9302: 9298: 9294: 9291: 9287: 9281: 9277: 9274: 9271: 9267: 9263: 9260: 9257: 9252: 9248: 9244: 9241: 9237: 9233: 9230: 9203: 9192: 9191: 9179: 9175: 9172: 9169: 9164: 9160: 9156: 9153: 9149: 9145: 9142: 9134: 9130: 9126: 9122: 9117: 9114: 9102:is defined as 9091: 9073: 9072: 9061: 9056: 9050: 9046: 9040: 9036: 9032: 9029: 9023: 9020: 9017: 9014: 9011: 9008: 8983: 8979: 8973: 8969: 8965: 8943: 8939: 8933: 8929: 8925: 8922: 8913:and has value 8907: 8906: 8894: 8888: 8883: 8879: 8874: 8870: 8866: 8863: 8860: 8857: 8854: 8851: 8848: 8844: 8839: 8835: 8829: 8825: 8821: 8818: 8815: 8812: 8808: 8804: 8801: 8797: 8791: 8788: 8783: 8776: 8772: 8765: 8761: 8757: 8754: 8751: 8748: 8745: 8742: 8739: 8733: 8726: 8722: 8715: 8711: 8707: 8704: 8699: 8695: 8691: 8688: 8685: 8680: 8675: 8672: 8669: 8665: 8658: 8654: 8649: 8643: 8639: 8635: 8632: 8627: 8623: 8619: 8614: 8609: 8606: 8603: 8599: 8592: 8588: 8585: 8582: 8579: 8576: 8573: 8570: 8567: 8538: 8534: 8530: 8527: 8524: 8521: 8518: 8496: 8492: 8476: 8475: 8464: 8459: 8453: 8449: 8445: 8442: 8437: 8433: 8429: 8424: 8419: 8416: 8413: 8409: 8402: 8399: 8374: 8370: 8349: 8329: 8326: 8325: 8324: 8313: 8308: 8303: 8299: 8293: 8289: 8283: 8280: 8274: 8270: 8267: 8253: 8252: 8241: 8234: 8230: 8226: 8221: 8214: 8210: 8206: 8199: 8194: 8191: 8188: 8184: 8180: 8176: 8170: 8167: 8162: 8159: 8156: 8152: 8148: 8142: 8136: 8133: 8128: 8121: 8116: 8110: 8107: 8102: 8099: 8096: 8092: 8088: 8082: 8077: 8074: 8071: 8068: 8065: 8051: 8050: 8039: 8035: 8030: 8024: 8020: 8016: 8012: 8008: 8004: 7998: 7995: 7992: 7986: 7980: 7977: 7974: 7971: 7968: 7943: 7939: 7918: 7898: 7878: 7875: 7872: 7869: 7851: 7850: 7838: 7829: 7825: 7821: 7815: 7811: 7803: 7800: 7795: 7785: 7781: 7777: 7771: 7767: 7759: 7756: 7751: 7745: 7741: 7738: 7733: 7730: 7725: 7717: 7713: 7709: 7703: 7699: 7691: 7688: 7683: 7673: 7669: 7665: 7658: 7653: 7648: 7642: 7637: 7634: 7631: 7627: 7608: 7607: 7595: 7591: 7587: 7583: 7579: 7575: 7572: 7568: 7564: 7560: 7555: 7549: 7543: 7537: 7533: 7511: 7508: 7506: 7503: 7499: 7498: 7484: 7481: 7478: 7475: 7468: 7464: 7460: 7457: 7454: 7449: 7445: 7441: 7435: 7429: 7426: 7423: 7420: 7417: 7410: 7406: 7402: 7399: 7396: 7391: 7387: 7383: 7377: 7374: 7371: 7368: 7365: 7362: 7348: 7347: 7335: 7331: 7328: 7325: 7320: 7316: 7311: 7307: 7303: 7299: 7296: 7293: 7290: 7287: 7284: 7281: 7277: 7273: 7268: 7265: 7262: 7259: 7256: 7253: 7250: 7247: 7244: 7241: 7218: 7217: 7202: 7199: 7196: 7191: 7187: 7183: 7180: 7177: 7174: 7171: 7165: 7162: 7158: 7153: 7149: 7145: 7142: 7138: 7135: 7132: 7129: 7126: 7123: 7120: 7117: 7114: 7111: 7108: 7104: 7097: 7094: 7090: 7085: 7082: 7080: 7078: 7075: 7072: 7068: 7065: 7062: 7059: 7056: 7053: 7049: 7045: 7042: 7039: 7036: 7033: 7030: 7024: 7021: 7017: 7009: 7006: 7003: 7000: 6997: 6994: 6990: 6984: 6980: 6977: 6974: 6971: 6968: 6965: 6962: 6960: 6958: 6954: 6949: 6945: 6942: 6939: 6936: 6933: 6930: 6924: 6921: 6917: 6909: 6906: 6903: 6900: 6897: 6894: 6890: 6884: 6880: 6877: 6873: 6869: 6866: 6863: 6860: 6858: 6856: 6853: 6850: 6847: 6844: 6841: 6838: 6835: 6834: 6811: 6808: 6805: 6802: 6799: 6796: 6793: 6773: 6770: 6767: 6764: 6761: 6758: 6755: 6752: 6749: 6746: 6743: 6740: 6737: 6734: 6714: 6694: 6674: 6671: 6668: 6665: 6662: 6659: 6656: 6638: 6637: 6626: 6623: 6620: 6617: 6613: 6610: 6607: 6604: 6601: 6598: 6595: 6589: 6586: 6582: 6577: 6574: 6571: 6566: 6562: 6559: 6556: 6553: 6550: 6547: 6541: 6538: 6534: 6526: 6523: 6520: 6517: 6514: 6511: 6507: 6501: 6497: 6494: 6491: 6488: 6485: 6482: 6479: 6476: 6473: 6470: 6467: 6464: 6461: 6438: 6435: 6432: 6429: 6426: 6406: 6387: 6386: 6375: 6372: 6369: 6366: 6363: 6360: 6354: 6351: 6347: 6339: 6336: 6333: 6330: 6327: 6324: 6320: 6315: 6312: 6309: 6306: 6303: 6300: 6297: 6294: 6291: 6285: 6282: 6278: 6273: 6270: 6243: 6223: 6220: 6217: 6214: 6186: 6183: 6180: 6177: 6174: 6171: 6151: 6148: 6145: 6142: 6139: 6136: 6112: 6101: 6100: 6089: 6083: 6080: 6077: 6074: 6067: 6063: 6059: 6056: 6053: 6048: 6044: 6040: 6034: 6031: 6028: 6025: 6022: 6019: 6016: 6013: 6010: 5987: 5967: 5964: 5961: 5958: 5955: 5952: 5949: 5946: 5943: 5940: 5920: 5900: 5897: 5894: 5891: 5871: 5868: 5865: 5862: 5859: 5856: 5837: 5834: 5821: 5818: 5815: 5812: 5809: 5804: 5801: 5797: 5793: 5790: 5787: 5782: 5778: 5774: 5771: 5768: 5765: 5762: 5759: 5756: 5753: 5748: 5744: 5723: 5703: 5698: 5695: 5691: 5685: 5681: 5677: 5671: 5668: 5663: 5659: 5651: 5647: 5643: 5640: 5637: 5634: 5626: 5623: 5620: 5616: 5589: 5586: 5583: 5580: 5577: 5572: 5568: 5560: 5556: 5552: 5549: 5546: 5543: 5540: 5537: 5534: 5528: 5525: 5522: 5519: 5516: 5511: 5507: 5482: 5479: 5476: 5473: 5470: 5466: 5463: 5440: 5435: 5430: 5427: 5407: 5384: 5381: 5378: 5373: 5369: 5363: 5359: 5355: 5352: 5349: 5346: 5343: 5323: 5320: 5317: 5314: 5309: 5306: 5302: 5298: 5295: 5292: 5287: 5283: 5279: 5276: 5273: 5270: 5267: 5264: 5261: 5258: 5253: 5249: 5226: 5222: 5218: 5215: 5212: 5207: 5204: 5200: 5196: 5193: 5190: 5187: 5184: 5181: 5178: 5175: 5172: 5169: 5166: 5163: 5158: 5154: 5131: 5126: 5121: 5118: 5098: 5093: 5089: 5085: 5082: 5079: 5074: 5071: 5067: 5063: 5060: 5057: 5054: 5051: 5048: 5045: 5040: 5036: 5032: 5029: 5026: 5023: 5020: 5017: 5012: 5008: 5002: 4998: 4994: 4991: 4988: 4985: 4982: 4977: 4973: 4950: 4946: 4940: 4936: 4930: 4926: 4922: 4919: 4897: 4892: 4887: 4884: 4864: 4861: 4858: 4855: 4834: 4813: 4810: 4807: 4804: 4774: 4770: 4766: 4763: 4760: 4755: 4752: 4748: 4744: 4741: 4738: 4733: 4729: 4725: 4722: 4719: 4716: 4713: 4710: 4707: 4704: 4701: 4673: 4669: 4665: 4662: 4659: 4656: 4653: 4648: 4644: 4640: 4637: 4632: 4628: 4624: 4618: 4615: 4610: 4606: 4601: 4597: 4592: 4589: 4586: 4583: 4580: 4577: 4572: 4568: 4564: 4561: 4558: 4555: 4552: 4547: 4543: 4539: 4536: 4533: 4530: 4524: 4521: 4516: 4512: 4492: 4489: 4486: 4483: 4480: 4476: 4473: 4450: 4445: 4440: 4437: 4417: 4398: 4393: 4387: 4385: 4382: 4381: 4380: 4379: 4378: 4366: 4342: 4339: 4336: 4333: 4330: 4327: 4316: 4304: 4284: 4264: 4261: 4258: 4255: 4252: 4249: 4226: 4223: 4218: 4214: 4211: 4208: 4205: 4202: 4199: 4193: 4190: 4186: 4180: 4176: 4173: 4170: 4167: 4164: 4161: 4157: 4153: 4150: 4146: 4143: 4140: 4137: 4134: 4131: 4128: 4125: 4122: 4119: 4116: 4112: 4105: 4102: 4098: 4076: 4056: 4036: 4025: 4013: 4010: 4007: 4004: 4001: 3998: 3995: 3992: 3986: 3983: 3979: 3957: 3954: 3951: 3948: 3945: 3942: 3939: 3936: 3916: 3892: 3889: 3886: 3883: 3863: 3860: 3857: 3854: 3851: 3848: 3832: 3829: 3828: 3827: 3816: 3811: 3808: 3803: 3798: 3795: 3790: 3785: 3781: 3777: 3773: 3769: 3764: 3759: 3754: 3751: 3746: 3740: 3737: 3732: 3728: 3724: 3719: 3715: 3710: 3705: 3702: 3697: 3692: 3688: 3685: 3682: 3678: 3673: 3669: 3664: 3660: 3655: 3650: 3647: 3644: 3641: 3638: 3633: 3629: 3625: 3622: 3617: 3613: 3594: 3593: 3582: 3577: 3574: 3569: 3565: 3561: 3556: 3553: 3549: 3545: 3542: 3539: 3535: 3530: 3526: 3521: 3517: 3492: 3488: 3484: 3480: 3476: 3471: 3449: 3424: 3421: 3418: 3414: 3401: 3400: 3386: 3382: 3378: 3374: 3370: 3366: 3362: 3357: 3353: 3349: 3329: 3326: 3301: 3297: 3293: 3289: 3285: 3281: 3277: 3273: 3270: 3267: 3264: 3261: 3258: 3248: 3232: 3229: 3226: 3206: 3203: 3200: 3185: 3184: 3171: 3167: 3163: 3160: 3157: 3152: 3149: 3144: 3140: 3136: 3131: 3128: 3125: 3122: 3119: 3116: 3112: 3108: 3105: 3102: 3098: 3093: 3089: 3084: 3080: 3069: 3057: 3054: 3051: 3048: 3043: 3040: 3035: 3031: 3028: 3025: 3021: 3016: 3011: 3006: 3002: 2996: 2992: 2988: 2985: 2982: 2979: 2975: 2971: 2967: 2963: 2940: 2937: 2934: 2930: 2905: 2901: 2897: 2893: 2872: 2869: 2866: 2863: 2859: 2855: 2852: 2849: 2827: 2823: 2819: 2816: 2813: 2808: 2804: 2800: 2797: 2794: 2791: 2788: 2785: 2780: 2776: 2772: 2769: 2766: 2763: 2760: 2756: 2735: 2732: 2729: 2725: 2713: 2712: 2701: 2697: 2692: 2687: 2683: 2680: 2676: 2672: 2669: 2666: 2658: 2654: 2650: 2644: 2640: 2636: 2630: 2626: 2619: 2615: 2612: 2609: 2606: 2602: 2597: 2592: 2588: 2585: 2581: 2577: 2574: 2571: 2563: 2559: 2555: 2551: 2545: 2540: 2536: 2533: 2529: 2525: 2522: 2519: 2511: 2507: 2503: 2499: 2493: 2489: 2486: 2483: 2478: 2475: 2472: 2468: 2442: 2439: 2436: 2432: 2411: 2408: 2405: 2374: 2370: 2366: 2363: 2360: 2357: 2346: 2345: 2332: 2327: 2322: 2317: 2312: 2306: 2302: 2298: 2295: 2292: 2287: 2283: 2279: 2274: 2270: 2265: 2260: 2256: 2237: 2234: 2221: 2218: 2212: 2209: 2206: 2202: 2197: 2194: 2191: 2188: 2184: 2181: 2177: 2174: 2150: 2147: 2144: 2141: 2137: 2133: 2113: 2110: 2107: 2104: 2101: 2097: 2094: 2090: 2087: 2076: 2075: 2064: 2059: 2055: 2051: 2048: 2045: 2042: 2036: 2033: 2030: 2027: 2020: 2016: 2012: 2009: 2006: 2002: 1999: 1995: 1992: 1989: 1983: 1979: 1973: 1969: 1965: 1962: 1956: 1953: 1947: 1943: 1939: 1936: 1906: 1903: 1900: 1897: 1894: 1891: 1880: 1879: 1868: 1862: 1859: 1856: 1853: 1846: 1842: 1838: 1835: 1832: 1828: 1825: 1821: 1818: 1815: 1809: 1805: 1799: 1796: 1790: 1786: 1783: 1760: 1757: 1754: 1751: 1728: 1725: 1702: 1699: 1696: 1693: 1689: 1683: 1679: 1675: 1672: 1669: 1665: 1662: 1658: 1638: 1635: 1632: 1629: 1609: 1606: 1603: 1600: 1597: 1594: 1591: 1588: 1585: 1582: 1579: 1559: 1556: 1553: 1547: 1544: 1538: 1535: 1532: 1529: 1526: 1523: 1520: 1497: 1494: 1478: 1475: 1462: 1459: 1456: 1453: 1433: 1413: 1410: 1407: 1404: 1384: 1381: 1378: 1374: 1371: 1359: 1358: 1344: 1341: 1338: 1335: 1328: 1324: 1320: 1317: 1314: 1310: 1307: 1303: 1297: 1294: 1291: 1288: 1285: 1282: 1259: 1256: 1253: 1250: 1247: 1244: 1241: 1238: 1235: 1232: 1229: 1226: 1223: 1220: 1217: 1214: 1194: 1191: 1188: 1185: 1165: 1145: 1142: 1139: 1136: 1124: 1121: 1120: 1119: 1107: 1104: 1101: 1095: 1092: 1086: 1083: 1069: 1068: 1054: 1048: 1045: 1039: 1036: 1033: 1026: 1023: 1019: 1015: 1012: 1009: 1003: 1000: 994: 991: 985: 982: 956: 953: 935: 934: 922: 914: 910: 906: 901: 898: 895: 892: 889: 886: 881: 877: 870: 866: 861: 858: 855: 851: 847: 844: 841: 838: 835: 832: 829: 806: 803: 800: 797: 794: 791: 768: 748: 728: 725: 722: 719: 716: 713: 702:expected value 687: 684: 681: 677: 656: 628: 625: 622: 619: 616: 613: 610: 607: 604: 601: 598: 595: 592: 589: 586: 583: 580: 569: 568: 556: 551: 546: 540: 537: 532: 529: 526: 523: 520: 517: 514: 508: 503: 499: 494: 491: 488: 484: 480: 477: 474: 471: 468: 465: 453:is defined by 442: 439: 436: 433: 422: 421: 407: 404: 401: 398: 394: 389: 386: 380: 377: 371: 368: 365: 342: 339: 336: 333: 306: 283: 280: 249: 246: 243: 240: 237: 234: 211: 191: 171: 159: 156: 139: 136: 125:estimator bias 122: 114: 15: 9: 6: 4: 3: 2: 11604: 11593: 11590: 11588: 11585: 11584: 11582: 11572: 11569: 11568: 11559: 11554: 11552:0-387-98674-X 11548: 11544: 11539: 11534: 11532:0-13-345711-7 11528: 11524: 11519: 11515: 11509: 11505: 11500: 11496: 11494:0-674-00560-0 11490: 11486: 11481: 11480: 11474: 11470: 11469: 11456: 11454:0-13-042268-1 11450: 11446: 11439: 11421: 11417: 11410: 11403: 11394: 11389: 11385: 11381: 11377: 11369: 11361: 11355: 11347: 11343: 11337: 11323:on 2020-09-26 11319: 11312: 11305: 11297: 11293: 11289: 11283: 11279: 11275: 11270: 11265: 11261: 11254: 11246: 11242: 11238: 11234: 11230: 11226: 11222: 11215: 11207: 11203: 11199: 11195: 11191: 11187: 11183: 11176: 11168: 11164: 11160: 11156: 11152: 11148: 11144: 11137: 11129: 11123: 11119: 11118: 11110: 11102: 11098: 11094: 11090: 11089: 11081: 11073: 11069: 11065: 11061: 11057: 11053: 11049: 11045: 11041: 11034: 11026: 11022: 11018: 11014: 11011:(1/4): 9–15. 11010: 11006: 10999: 10991: 10987: 10983: 10979: 10975: 10971: 10964: 10956: 10952: 10948: 10942: 10938: 10931: 10923: 10919: 10915: 10911: 10907: 10906: 10898: 10890: 10886: 10882: 10880:0-691-08004-6 10876: 10872: 10871: 10863: 10859: 10849: 10846: 10844: 10841: 10839: 10836: 10834: 10831: 10830: 10824: 10810: 10807: 10804: 10784: 10781: 10778: 10758: 10755: 10752: 10743: 10723: 10720: 10717: 10710: 10700: 10696: 10689: 10683: 10678: 10668: 10664: 10656: 10647: 10639: 10636: 10633: 10626: 10621: 10613: 10605: 10602: 10599: 10591: 10588: 10581: 10577: 10571: 10565: 10562: 10555: 10554: 10553: 10533: 10530: 10527: 10520: 10516: 10512: 10506: 10501: 10497: 10492: 10485: 10482: 10479: 10475: 10470: 10467: 10463: 10455: 10454: 10453: 10436: 10428: 10420: 10417: 10414: 10404: 10394: 10390: 10383: 10380: 10374: 10368: 10362: 10359: 10352: 10351: 10350: 10333: 10327: 10324: 10321: 10314: 10306: 10303: 10298: 10294: 10285: 10280: 10277: 10274: 10270: 10263: 10260: 10253: 10252: 10251: 10249: 10244: 10242: 10238: 10219: 10214: 10211: 10206: 10200: 10194: 10191: 10184: 10183: 10182: 10179: 10166: 10158: 10148: 10144: 10137: 10133: 10111: 10091: 10068: 10060: 10050: 10046: 10039: 10035: 10030: 10022: 10012: 10008: 10001: 9997: 9992: 9984: 9974: 9970: 9960: 9956: 9950: 9946: 9937: 9927: 9923: 9916: 9912: 9907: 9899: 9889: 9885: 9874: 9866: 9863: 9860: 9851: 9847: 9843: 9837: 9834: 9830: 9822: 9818: 9809: 9800: 9796: 9790: 9787: 9784: 9777: 9776: 9775: 9761: 9733: 9723: 9719: 9712: 9705: 9697: 9694: 9691: 9682: 9674: 9670: 9666: 9662: 9657: 9654: 9650: 9641: 9637: 9633: 9626: 9618: 9615: 9612: 9603: 9593: 9589: 9585: 9582: 9574: 9571: 9568: 9564: 9555: 9551: 9538: 9534: 9527: 9524: 9519: 9515: 9508: 9504: 9500: 9497: 9489: 9485: 9472: 9469: 9462: 9461: 9441: 9437: 9433: 9426: 9418: 9415: 9412: 9403: 9393: 9389: 9385: 9382: 9374: 9371: 9368: 9365: 9361: 9352: 9348: 9344: 9339: 9333: 9325: 9322: 9319: 9313: 9309: 9300: 9296: 9292: 9289: 9285: 9279: 9275: 9272: 9269: 9265: 9258: 9255: 9250: 9246: 9239: 9235: 9231: 9228: 9221: 9220: 9219: 9217: 9201: 9177: 9170: 9167: 9162: 9158: 9151: 9147: 9143: 9140: 9132: 9128: 9115: 9112: 9105: 9104: 9103: 9089: 9082: 9078: 9059: 9054: 9048: 9038: 9034: 9027: 9021: 9015: 9009: 9006: 8999: 8998: 8997: 8981: 8971: 8967: 8941: 8931: 8927: 8920: 8912: 8892: 8886: 8881: 8872: 8864: 8861: 8858: 8849: 8842: 8837: 8833: 8827: 8819: 8816: 8813: 8806: 8802: 8795: 8789: 8786: 8781: 8774: 8770: 8763: 8755: 8752: 8749: 8743: 8740: 8737: 8731: 8724: 8720: 8713: 8705: 8702: 8697: 8693: 8686: 8683: 8678: 8673: 8670: 8667: 8663: 8656: 8652: 8647: 8641: 8633: 8630: 8625: 8621: 8612: 8607: 8604: 8601: 8597: 8590: 8586: 8583: 8580: 8574: 8568: 8565: 8558: 8557: 8556: 8554: 8536: 8532: 8528: 8522: 8516: 8494: 8490: 8481: 8462: 8457: 8451: 8443: 8440: 8435: 8431: 8422: 8417: 8414: 8411: 8407: 8400: 8397: 8390: 8389: 8388: 8372: 8368: 8347: 8339: 8335: 8311: 8306: 8301: 8297: 8291: 8287: 8278: 8272: 8268: 8265: 8258: 8257: 8256: 8239: 8232: 8228: 8224: 8219: 8212: 8208: 8204: 8197: 8192: 8189: 8186: 8182: 8178: 8174: 8168: 8157: 8140: 8134: 8131: 8119: 8114: 8108: 8097: 8080: 8075: 8069: 8063: 8056: 8055: 8054: 8037: 8033: 8022: 8018: 8014: 8006: 8002: 7996: 7993: 7990: 7978: 7972: 7966: 7959: 7958: 7957: 7941: 7937: 7916: 7896: 7873: 7867: 7858: 7856: 7836: 7827: 7823: 7801: 7798: 7783: 7779: 7757: 7754: 7743: 7739: 7736: 7731: 7728: 7723: 7715: 7711: 7689: 7686: 7671: 7667: 7656: 7640: 7635: 7632: 7629: 7625: 7617: 7616: 7615: 7614:has elements 7613: 7593: 7573: 7553: 7547: 7535: 7523: 7522: 7521: 7520: 7518: 7502: 7479: 7473: 7466: 7455: 7443: 7433: 7424: 7418: 7415: 7408: 7397: 7385: 7375: 7369: 7363: 7360: 7353: 7352: 7351: 7333: 7326: 7314: 7309: 7305: 7301: 7294: 7291: 7288: 7282: 7279: 7275: 7271: 7263: 7257: 7254: 7248: 7242: 7239: 7230: 7229: 7228: 7226: 7221: 7197: 7185: 7181: 7175: 7169: 7163: 7151: 7147: 7143: 7140: 7133: 7130: 7127: 7121: 7115: 7109: 7106: 7102: 7095: 7083: 7081: 7073: 7070: 7063: 7060: 7057: 7051: 7047: 7040: 7037: 7034: 7028: 7022: 7004: 7001: 6998: 6992: 6988: 6982: 6975: 6969: 6966: 6963: 6961: 6952: 6947: 6940: 6937: 6934: 6928: 6922: 6904: 6901: 6898: 6892: 6888: 6882: 6878: 6875: 6871: 6867: 6861: 6859: 6851: 6848: 6845: 6839: 6836: 6825: 6824: 6823: 6809: 6806: 6800: 6794: 6768: 6765: 6759: 6753: 6747: 6744: 6741: 6735: 6732: 6712: 6692: 6669: 6666: 6663: 6657: 6654: 6647: 6641: 6624: 6621: 6618: 6615: 6608: 6605: 6602: 6596: 6593: 6587: 6575: 6572: 6569: 6564: 6557: 6554: 6551: 6545: 6539: 6521: 6518: 6515: 6509: 6505: 6499: 6492: 6489: 6486: 6480: 6477: 6474: 6468: 6462: 6452: 6451: 6450: 6433: 6427: 6404: 6396: 6392: 6370: 6367: 6364: 6358: 6352: 6334: 6331: 6328: 6322: 6318: 6313: 6307: 6304: 6301: 6295: 6292: 6289: 6283: 6271: 6268: 6261: 6260: 6259: 6257: 6241: 6218: 6212: 6204: 6200: 6181: 6175: 6172: 6169: 6146: 6143: 6140: 6134: 6126: 6110: 6087: 6078: 6072: 6065: 6054: 6042: 6032: 6023: 6017: 6011: 6008: 6001: 6000: 5999: 5985: 5962: 5956: 5953: 5947: 5941: 5931:), i.e. that 5918: 5895: 5889: 5866: 5860: 5857: 5854: 5845: 5843: 5832: 5819: 5813: 5807: 5802: 5799: 5791: 5785: 5780: 5772: 5766: 5763: 5757: 5751: 5746: 5742: 5721: 5701: 5696: 5693: 5689: 5683: 5679: 5675: 5669: 5666: 5661: 5657: 5649: 5641: 5638: 5635: 5624: 5621: 5618: 5604: 5587: 5581: 5575: 5570: 5566: 5558: 5547: 5541: 5538: 5535: 5526: 5520: 5514: 5509: 5505: 5496: 5480: 5477: 5474: 5471: 5468: 5464: 5461: 5438: 5428: 5425: 5405: 5396: 5379: 5371: 5367: 5361: 5353: 5347: 5341: 5318: 5312: 5307: 5304: 5296: 5290: 5285: 5277: 5271: 5268: 5262: 5256: 5251: 5247: 5224: 5216: 5210: 5205: 5202: 5194: 5188: 5182: 5176: 5173: 5167: 5161: 5156: 5152: 5129: 5119: 5116: 5096: 5091: 5083: 5077: 5072: 5069: 5061: 5055: 5049: 5043: 5038: 5034: 5030: 5027: 5021: 5015: 5010: 5006: 5000: 4996: 4992: 4986: 4980: 4975: 4971: 4948: 4944: 4938: 4934: 4928: 4924: 4920: 4917: 4895: 4885: 4882: 4859: 4853: 4808: 4802: 4793: 4792: 4788: 4772: 4764: 4758: 4753: 4750: 4742: 4736: 4731: 4727: 4720: 4714: 4711: 4705: 4699: 4691: 4686: 4671: 4667: 4663: 4657: 4651: 4646: 4642: 4638: 4630: 4626: 4622: 4616: 4613: 4608: 4599: 4595: 4590: 4587: 4581: 4575: 4570: 4566: 4562: 4553: 4545: 4541: 4537: 4531: 4522: 4519: 4514: 4490: 4487: 4484: 4481: 4478: 4474: 4471: 4448: 4438: 4435: 4415: 4406: 4405: 4397: 4392: 4364: 4356: 4337: 4334: 4331: 4325: 4318:The function 4317: 4302: 4282: 4259: 4256: 4253: 4247: 4240:The function 4239: 4238: 4224: 4221: 4216: 4209: 4206: 4203: 4197: 4191: 4178: 4171: 4165: 4162: 4159: 4155: 4151: 4148: 4141: 4138: 4135: 4129: 4123: 4117: 4114: 4110: 4103: 4074: 4054: 4034: 4026: 4008: 4005: 4002: 3996: 3993: 3990: 3984: 3955: 3952: 3946: 3943: 3940: 3934: 3914: 3906: 3905: 3904: 3887: 3881: 3858: 3855: 3852: 3846: 3838: 3814: 3809: 3806: 3801: 3796: 3793: 3788: 3783: 3775: 3771: 3767: 3762: 3757: 3752: 3749: 3744: 3738: 3735: 3730: 3722: 3717: 3713: 3708: 3703: 3700: 3695: 3690: 3683: 3671: 3667: 3658: 3653: 3648: 3639: 3631: 3627: 3620: 3611: 3603: 3602: 3601: 3599: 3580: 3575: 3572: 3567: 3559: 3554: 3551: 3547: 3540: 3528: 3524: 3515: 3507: 3506: 3505: 3486: 3482: 3474: 3439:estimator of 3438: 3419: 3384: 3380: 3372: 3355: 3351: 3327: 3324: 3316: 3291: 3268: 3262: 3256: 3249: 3246: 3230: 3227: 3224: 3204: 3201: 3198: 3190: 3189: 3188: 3169: 3161: 3155: 3150: 3147: 3142: 3134: 3129: 3123: 3117: 3114: 3110: 3103: 3091: 3087: 3078: 3070: 3052: 3046: 3041: 3038: 3033: 3026: 3014: 3009: 3000: 2994: 2986: 2980: 2977: 2973: 2965: 2961: 2954: 2953: 2952: 2935: 2919: 2864: 2850: 2825: 2814: 2806: 2802: 2798: 2795: 2792: 2786: 2778: 2774: 2767: 2761: 2730: 2699: 2695: 2690: 2681: 2678: 2674: 2670: 2667: 2664: 2656: 2652: 2642: 2638: 2628: 2617: 2613: 2607: 2604: 2600: 2595: 2586: 2583: 2579: 2575: 2572: 2569: 2561: 2557: 2543: 2534: 2531: 2527: 2523: 2520: 2517: 2509: 2505: 2491: 2487: 2481: 2476: 2473: 2470: 2466: 2458: 2457: 2456: 2440: 2437: 2434: 2430: 2409: 2406: 2403: 2395: 2390: 2388: 2364: 2361: 2355: 2330: 2320: 2315: 2310: 2304: 2300: 2296: 2293: 2290: 2285: 2281: 2277: 2272: 2268: 2263: 2258: 2246: 2245: 2244: 2243: 2233: 2219: 2216: 2210: 2207: 2204: 2200: 2195: 2189: 2182: 2179: 2175: 2172: 2164: 2145: 2139: 2135: 2131: 2111: 2108: 2102: 2095: 2092: 2088: 2085: 2062: 2057: 2049: 2043: 2040: 2031: 2025: 2018: 2007: 2000: 1997: 1993: 1990: 1981: 1977: 1971: 1963: 1960: 1951: 1941: 1937: 1927: 1926: 1925: 1923: 1918: 1904: 1901: 1895: 1889: 1866: 1857: 1851: 1844: 1833: 1826: 1823: 1819: 1816: 1807: 1803: 1794: 1788: 1784: 1781: 1774: 1773: 1772: 1755: 1749: 1723: 1697: 1691: 1687: 1681: 1670: 1663: 1660: 1633: 1627: 1607: 1604: 1598: 1592: 1589: 1583: 1577: 1557: 1554: 1542: 1533: 1530: 1524: 1518: 1492: 1474: 1457: 1451: 1431: 1408: 1402: 1379: 1372: 1369: 1339: 1333: 1326: 1315: 1308: 1305: 1295: 1289: 1283: 1280: 1273: 1272: 1271: 1257: 1254: 1248: 1242: 1239: 1236: 1233: 1224: 1218: 1212: 1189: 1183: 1163: 1140: 1134: 1105: 1102: 1090: 1081: 1074: 1073: 1072: 1043: 1034: 1031: 1024: 1021: 1013: 1007: 1001: 989: 980: 973: 972: 971: 951: 940: 920: 912: 908: 896: 893: 890: 884: 879: 868: 864: 859: 856: 853: 845: 842: 839: 833: 827: 820: 819: 818: 801: 798: 795: 789: 780: 766: 746: 723: 720: 717: 711: 703: 685: 682: 679: 654: 646: 642: 620: 617: 614: 608: 602: 599: 596: 590: 587: 584: 578: 554: 549: 544: 538: 527: 524: 521: 515: 506: 501: 497: 492: 489: 486: 478: 475: 469: 463: 456: 455: 454: 437: 431: 402: 396: 392: 387: 375: 366: 363: 356: 355: 354: 337: 331: 324: 320: 304: 278: 267: 263: 244: 241: 238: 232: 225: 209: 189: 169: 155: 153: 149: 145: 135: 133: 128: 126: 120: 118: 112: 109: 107: 103: 99: 98: 92: 90: 86: 82: 78: 74: 70: 66: 62: 58: 54: 53:Harald Cramér 50: 47:) relates to 46: 42: 38: 34: 26: 21: 11542: 11537:. Chapter 3. 11522: 11503: 11478: 11444: 11438: 11427:. Retrieved 11415: 11402: 11383: 11379: 11368: 11354: 11346:gssc.esa.int 11345: 11336: 11325:. Retrieved 11318:the original 11304: 11259: 11253: 11228: 11224: 11214: 11189: 11185: 11175: 11150: 11146: 11136: 11116: 11109: 11092: 11086: 11080: 11047: 11043: 11033: 11008: 11004: 10998: 10973: 10969: 10963: 10936: 10930: 10909: 10903: 10897: 10869: 10862: 10744: 10741: 10551: 10452:Its bias is 10451: 10348: 10245: 10234: 10180: 10083: 9753: 9193: 9074: 8908: 8552: 8479: 8477: 8333: 8331: 8254: 8052: 7859: 7852: 7609: 7516: 7513: 7500: 7349: 7222: 7219: 6642: 6639: 6388: 6102: 5847:Assume that 5846: 5839: 5605: 5397: 4794: 4790: 4789: 4687: 4503:in, we have 4407: 4403: 4402: 4395: 3834: 3595: 3402: 3186: 2714: 2391: 2347: 2239: 2077: 1919: 1881: 1480: 1360: 1126: 1070: 936: 781: 700:denotes the 570: 423: 265: 161: 141: 129: 110: 95: 93: 44: 40: 30: 11153:(1): 1–14. 7227:shows that 6395:expectation 4463:, plugging 4087:; that is, 2455:defined as 11581:Categories 11429:2022-05-24 11327:2020-05-24 11309:Suba Rao. 7350:therefore 6784:, because 6725:, we have 6646:covariance 6417:, written 6391:chain rule 6389:where the 6234:. Define 3927:such that 2951:satisfies 1771:satisfies 1570:, and let 1511:with bias 939:efficiency 319:reciprocal 268:estimator 49:estimation 37:statistics 11380:Ann. Stat 11269:1301.3578 11095:(2): 36. 11072:124029876 11064:2053-5902 10955:174244259 10916:: 81–89. 10889:185436716 10782:− 10697:σ 10665:σ 10566:⁡ 10517:σ 10498:σ 10471:− 10391:σ 10363:⁡ 10307:μ 10304:− 10271:∑ 10241:efficient 10237:estimator 10207:≥ 10195:⁡ 10145:σ 10047:σ 10009:σ 9993:− 9971:σ 9957:σ 9924:σ 9886:σ 9867:μ 9864:− 9852:− 9844:⁡ 9838:− 9819:σ 9815:∂ 9807:∂ 9797:⁡ 9791:− 9720:σ 9698:μ 9695:− 9671:σ 9658:− 9638:σ 9619:μ 9616:− 9604:− 9590:σ 9586:π 9575:⁡ 9569:− 9552:σ 9548:∂ 9544:∂ 9516:σ 9501:⁡ 9486:σ 9482:∂ 9478:∂ 9438:σ 9419:μ 9416:− 9404:− 9390:σ 9386:π 9375:⁡ 9369:− 9349:σ 9326:μ 9323:− 9314:− 9297:σ 9293:π 9276:⁡ 9247:σ 9232:⁡ 9159:σ 9144:⁡ 9129:σ 9125:∂ 9121:∂ 9035:σ 9010:⁡ 8968:σ 8928:σ 8865:μ 8862:− 8850:⁡ 8838:− 8820:μ 8817:− 8803:⁡ 8756:μ 8753:− 8744:⁡ 8706:μ 8703:− 8687:⁡ 8664:∑ 8634:μ 8631:− 8598:∑ 8587:⁡ 8569:⁡ 8533:σ 8491:σ 8444:μ 8441:− 8408:∑ 8369:σ 8348:μ 8298:σ 8292:≥ 8282:^ 8279:θ 8269:⁡ 8229:σ 8209:σ 8183:∑ 8169:θ 8166:∂ 8158:θ 8151:μ 8147:∂ 8132:− 8109:θ 8106:∂ 8098:θ 8091:μ 8087:∂ 8070:θ 8019:σ 8007:θ 7979:∼ 7938:σ 7917:θ 7824:θ 7820:∂ 7810:∂ 7799:− 7780:θ 7776:∂ 7766:∂ 7755:− 7740:⁡ 7712:θ 7708:∂ 7702:μ 7698:∂ 7687:− 7668:θ 7664:∂ 7652:μ 7647:∂ 7586:θ 7567:θ 7559:μ 7536:∼ 7480:θ 7456:θ 7448:′ 7444:ψ 7419:⁡ 7398:θ 7390:′ 7386:ψ 7376:≥ 7364:⁡ 7327:θ 7319:′ 7315:ψ 7283:⁡ 7272:≥ 7258:⁡ 7243:⁡ 7198:θ 7190:′ 7186:ψ 7164:θ 7161:∂ 7157:∂ 7134:θ 7107:∫ 7096:θ 7093:∂ 7089:∂ 7064:θ 7041:θ 7023:θ 7020:∂ 7016:∂ 7005:θ 6967:∫ 6941:θ 6923:θ 6920:∂ 6916:∂ 6905:θ 6879:⋅ 6868:⁡ 6840:⁡ 6795:⁡ 6760:⁡ 6736:⁡ 6658:⁡ 6609:θ 6594:∫ 6588:θ 6585:∂ 6581:∂ 6558:θ 6540:θ 6537:∂ 6533:∂ 6522:θ 6493:θ 6478:∫ 6463:⁡ 6428:⁡ 6371:θ 6353:θ 6350:∂ 6346:∂ 6335:θ 6308:θ 6293:⁡ 6284:θ 6281:∂ 6277:∂ 6219:θ 6213:ψ 6203:estimator 6199:statistic 6147:θ 6079:θ 6055:θ 6047:′ 6043:ψ 6033:≥ 6012:⁡ 5986:θ 5963:θ 5957:ψ 5942:⁡ 5896:θ 5890:ψ 5814:θ 5808:ϕ 5800:− 5792:θ 5773:θ 5767:ϕ 5764:≥ 5752:⁡ 5747:θ 5694:− 5646:⟩ 5633:⟨ 5622:≠ 5582:θ 5555:⟩ 5548:θ 5542:ϕ 5533:⟨ 5527:≥ 5515:⁡ 5510:θ 5478:δ 5472:θ 5462:θ 5453:, taking 5429:∈ 5406:δ 5372:θ 5362:θ 5358:∇ 5348:θ 5342:ϕ 5319:θ 5313:ϕ 5305:− 5297:θ 5278:θ 5272:ϕ 5269:≥ 5257:⁡ 5252:θ 5217:θ 5211:ϕ 5203:− 5195:θ 5183:θ 5177:ϕ 5174:≥ 5162:⁡ 5157:θ 5120:∈ 5084:θ 5078:ϕ 5070:− 5062:θ 5050:θ 5044:ϕ 5031:≥ 5016:⁡ 5011:θ 4981:⁡ 4976:θ 4925:∑ 4886:∈ 4765:θ 4759:ϕ 4751:− 4737:⁡ 4732:θ 4721:θ 4715:ϕ 4712:≥ 4706:θ 4668:δ 4658:θ 4631:θ 4627:μ 4614:θ 4609:μ 4596:χ 4588:δ 4582:θ 4576:ϕ 4546:θ 4538:− 4520:θ 4488:δ 4482:θ 4472:θ 4439:∈ 4416:δ 4365:θ 4338:θ 4303:θ 4260:θ 4210:θ 4192:θ 4189:∂ 4185:∂ 4163:∫ 4142:θ 4115:∫ 4104:θ 4101:∂ 4097:∂ 4055:θ 4009:θ 3994:⁡ 3985:θ 3982:∂ 3978:∂ 3947:θ 3859:θ 3807:− 3780:θ 3758:≥ 3736:− 3727:θ 3709:≥ 3668:⁡ 3663:θ 3621:⁡ 3616:θ 3573:− 3564:θ 3552:≥ 3525:⁡ 3520:θ 3491:θ 3479:θ 3470:ψ 3448:θ 3381:θ 3377:∂ 3365:θ 3352:ψ 3348:∂ 3300:θ 3296:∂ 3284:θ 3276:ψ 3272:∂ 3263:θ 3257:ϕ 3228:− 3202:≥ 3162:θ 3156:ϕ 3148:− 3139:θ 3124:θ 3118:ϕ 3115:≥ 3088:⁡ 3083:θ 3053:θ 3047:ϕ 3039:− 3010:⁡ 3005:θ 2987:θ 2981:ϕ 2978:≥ 2970:θ 2900:θ 2892:ψ 2851:⁡ 2796:… 2686:θ 2668:⁡ 2653:θ 2649:∂ 2639:θ 2635:∂ 2625:∂ 2614:⁡ 2608:− 2591:θ 2573:⁡ 2558:θ 2554:∂ 2550:∂ 2539:θ 2521:⁡ 2506:θ 2502:∂ 2498:∂ 2488:⁡ 2407:× 2369:θ 2321:∈ 2301:θ 2294:… 2282:θ 2269:θ 2255:θ 2190:θ 2146:θ 2103:θ 2050:θ 2032:θ 2008:θ 1982:≥ 1964:θ 1961:− 1955:^ 1952:θ 1938:⁡ 1896:θ 1858:θ 1834:θ 1808:≥ 1798:^ 1795:θ 1785:⁡ 1756:θ 1727:^ 1724:θ 1698:θ 1671:θ 1661:ψ 1634:θ 1628:ψ 1608:θ 1599:θ 1584:θ 1578:ψ 1558:θ 1555:− 1546:^ 1543:θ 1525:θ 1496:^ 1493:θ 1458:θ 1432:θ 1409:θ 1403:ψ 1380:θ 1370:ψ 1340:θ 1316:θ 1306:ψ 1296:≥ 1284:⁡ 1258:θ 1255:− 1249:θ 1243:ψ 1237:θ 1234:− 1205:. Hence 1190:θ 1184:ψ 1164:θ 1103:≤ 1094:^ 1091:θ 1047:^ 1044:θ 1035:⁡ 1022:− 1014:θ 993:^ 990:θ 955:^ 952:θ 909:θ 905:∂ 897:θ 885:ℓ 876:∂ 865:⁡ 860:θ 843:− 834:θ 802:θ 790:ℓ 724:θ 686:θ 621:θ 603:⁡ 591:θ 579:ℓ 539:θ 536:∂ 528:θ 516:ℓ 513:∂ 498:⁡ 493:θ 470:θ 438:θ 403:θ 388:≥ 379:^ 376:θ 367:⁡ 338:θ 305:θ 282:^ 279:θ 245:θ 170:θ 138:Statement 119:that are 97:efficient 77:precision 67:, and by 57:C. R. Rao 11475:(1985). 11420:Archived 11296:16759683 11237:25047897 11198:25047948 11159:25047921 10827:See also 8332:Suppose 7505:Examples 5840:For the 5465:′ 4617:′ 4523:′ 4475:′ 3437:unbiased 2183:′ 2096:′ 2001:′ 1827:′ 1664:′ 1373:′ 1309:′ 266:unbiased 262:variance 162:Suppose 148:unbiased 89:variance 11245:0026302 11225:Sankhyā 11206:0023503 11186:Sankhyā 11167:0020242 11147:Sankhyā 11101:2681931 11025:1400974 10990:1401114 10922:0015748 9214:is the 8996:. Thus 6254:as the 6162:. Here 3461:(i.e., 3313:is the 2389:below. 1444:), and 643:of the 639:is the 321:of the 264:of any 79:of any 11549:  11529:  11510:  11491:  11451:  11294:  11284:  11243:  11235:  11204:  11196:  11165:  11157:  11124:  11099:  11070:  11062:  11023:  10988:  10953:  10943:  10920:  10887:  10877:  9194:where 5497:gives 4692:gives 3435:is an 3317:whose 3187:where 2242:vector 1361:where 260:. The 144:scalar 113:biased 39:, the 11487:–17. 11423:(PDF) 11412:(PDF) 11321:(PDF) 11314:(PDF) 11292:S2CID 11264:arXiv 11233:JSTOR 11194:JSTOR 11155:JSTOR 11097:JSTOR 11068:S2CID 11021:JSTOR 10986:JSTOR 9774:, or 9081:score 8509:, as 8478:Then 8336:is a 7855:trace 6256:score 6197:is a 6123:be a 5334:with 4400:Proof 4384:Proof 3247:, and 2396:is a 121:below 11547:ISBN 11527:ISBN 11508:ISBN 11489:ISBN 11449:ISBN 11282:ISBN 11122:ISBN 11060:ISSN 10951:OCLC 10941:ISBN 10885:OCLC 10875:ISBN 7610:the 7223:The 6705:and 6205:for 6103:Let 5398:Let 4408:Let 3953:> 2715:Let 2392:The 2217:< 2109:< 1424:(by 937:The 667:and 571:and 71:and 55:and 35:and 11388:doi 11274:doi 11052:doi 11013:doi 10978:doi 10797:or 10563:MSE 10360:var 10239:is 10192:var 9572:log 9498:log 9372:log 9273:log 9229:log 9141:log 9007:var 8741:var 8684:var 8584:var 8566:var 8266:var 7416:var 7361:var 7280:cov 7255:var 7240:var 6837:cov 6733:cov 6685:of 6655:cov 6397:of 6009:var 5743:Var 5615:sup 5603:. 5506:Var 5248:Var 5153:Cov 5007:Cov 4972:Var 4728:Cov 3991:log 3659:cov 3612:var 3516:cov 3404:If 3243:is 3079:cov 3001:cov 2920:of 2883:by 2665:log 2570:log 2518:log 1782:var 1281:var 1032:var 782:If 739:of 600:log 364:var 297:of 45:CRB 31:In 11583:: 11485:14 11418:. 11414:. 11384:15 11382:. 11378:. 11344:. 11290:. 11280:. 11272:. 11241:MR 11239:. 11227:. 11223:. 11202:MR 11200:. 11188:. 11184:. 11163:MR 11161:. 11149:. 11145:. 11093:24 11091:. 11066:. 11058:. 11048:61 11046:. 11042:. 11019:. 11009:13 11007:. 10984:. 10974:11 10972:. 10949:. 10918:MR 10912:. 10910:37 10908:. 10883:. 10823:. 10243:. 8555:? 7956:. 7857:. 7737:tr 6290:ln 6258:: 5998:, 5844:: 5395:. 5354::= 4921::= 4787:. 3968:, 3903:: 3839:, 3269::= 2232:. 2165:, 1917:. 779:. 353:: 154:. 127:. 91:. 63:, 11555:. 11535:. 11516:. 11497:. 11457:. 11432:. 11396:. 11390:: 11362:. 11348:. 11330:. 11298:. 11276:: 11266:: 11247:. 11229:8 11208:. 11190:8 11169:. 11151:8 11130:. 11103:. 11074:. 11054:: 11027:. 11015:: 10992:. 10980:: 10957:. 10924:. 10891:. 10811:2 10808:+ 10805:n 10785:1 10779:n 10759:1 10756:+ 10753:n 10724:2 10721:+ 10718:n 10711:2 10707:) 10701:2 10693:( 10690:2 10684:= 10679:2 10675:) 10669:2 10661:( 10657:) 10648:2 10644:) 10640:2 10637:+ 10634:n 10631:( 10627:4 10622:+ 10614:2 10610:) 10606:2 10603:+ 10600:n 10597:( 10592:n 10589:2 10582:( 10578:= 10575:) 10572:T 10569:( 10534:2 10531:+ 10528:n 10521:2 10513:2 10507:= 10502:2 10493:) 10486:2 10483:+ 10480:n 10476:n 10468:1 10464:( 10437:. 10429:2 10425:) 10421:2 10418:+ 10415:n 10412:( 10405:2 10401:) 10395:2 10387:( 10384:n 10381:2 10375:= 10372:) 10369:T 10366:( 10334:. 10328:2 10325:+ 10322:n 10315:2 10311:) 10299:i 10295:X 10291:( 10286:n 10281:1 10278:= 10275:i 10264:= 10261:T 10220:. 10215:I 10212:1 10204:) 10201:T 10198:( 10167:. 10159:2 10155:) 10149:2 10141:( 10138:2 10134:n 10112:n 10092:n 10069:. 10061:2 10057:) 10051:2 10043:( 10040:2 10036:1 10031:= 10023:2 10019:) 10013:2 10005:( 10002:2 9998:1 9985:3 9981:) 9975:2 9967:( 9961:2 9951:= 9947:) 9938:2 9934:) 9928:2 9920:( 9917:2 9913:1 9908:+ 9900:3 9896:) 9890:2 9882:( 9875:2 9871:) 9861:X 9858:( 9848:( 9841:E 9835:= 9831:) 9823:2 9810:V 9801:( 9794:E 9788:= 9785:I 9762:V 9734:2 9730:) 9724:2 9716:( 9713:2 9706:2 9702:) 9692:X 9689:( 9683:+ 9675:2 9667:2 9663:1 9655:= 9651:] 9642:2 9634:2 9627:2 9623:) 9613:X 9610:( 9601:) 9594:2 9583:2 9578:( 9565:[ 9556:2 9539:= 9535:] 9531:) 9528:X 9525:, 9520:2 9512:( 9509:L 9505:[ 9490:2 9473:= 9470:V 9442:2 9434:2 9427:2 9423:) 9413:X 9410:( 9401:) 9394:2 9383:2 9378:( 9366:= 9362:] 9353:2 9345:2 9340:/ 9334:2 9330:) 9320:X 9317:( 9310:e 9301:2 9290:2 9286:1 9280:[ 9270:= 9266:] 9262:) 9259:X 9256:, 9251:2 9243:( 9240:L 9236:[ 9202:L 9178:] 9174:) 9171:X 9168:, 9163:2 9155:( 9152:L 9148:[ 9133:2 9116:= 9113:V 9090:V 9060:. 9055:n 9049:2 9045:) 9039:2 9031:( 9028:2 9022:= 9019:) 9016:T 9013:( 8982:2 8978:) 8972:2 8964:( 8942:2 8938:) 8932:2 8924:( 8921:3 8893:] 8887:2 8882:) 8878:} 8873:2 8869:) 8859:X 8856:( 8853:{ 8847:E 8843:( 8834:} 8828:4 8824:) 8814:X 8811:( 8807:{ 8800:E 8796:[ 8790:n 8787:1 8782:= 8775:2 8771:n 8764:2 8760:) 8750:X 8747:( 8738:n 8732:= 8725:2 8721:n 8714:2 8710:) 8698:i 8694:X 8690:( 8679:n 8674:1 8671:= 8668:i 8657:= 8653:) 8648:n 8642:2 8638:) 8626:i 8622:X 8618:( 8613:n 8608:1 8605:= 8602:i 8591:( 8581:= 8578:) 8575:T 8572:( 8553:T 8537:2 8529:= 8526:) 8523:T 8520:( 8517:E 8495:2 8480:T 8463:. 8458:n 8452:2 8448:) 8436:i 8432:X 8428:( 8423:n 8418:1 8415:= 8412:i 8401:= 8398:T 8373:2 8334:X 8312:. 8307:n 8302:2 8288:) 8273:( 8240:, 8233:2 8225:n 8220:= 8213:2 8205:1 8198:n 8193:1 8190:= 8187:i 8179:= 8175:) 8161:) 8155:( 8141:( 8135:1 8127:C 8120:T 8115:) 8101:) 8095:( 8081:( 8076:= 8073:) 8067:( 8064:I 8038:. 8034:) 8029:I 8023:2 8015:, 8011:1 8003:( 7997:n 7994:, 7991:d 7985:N 7976:] 7973:j 7970:[ 7967:w 7942:2 7897:n 7877:] 7874:j 7871:[ 7868:w 7837:) 7828:k 7814:C 7802:1 7794:C 7784:m 7770:C 7758:1 7750:C 7744:( 7732:2 7729:1 7724:+ 7716:k 7690:1 7682:C 7672:m 7657:T 7641:= 7636:k 7633:, 7630:m 7626:I 7594:) 7590:) 7582:( 7578:C 7574:, 7571:) 7563:( 7554:( 7548:d 7542:N 7532:x 7517:d 7483:) 7477:( 7474:I 7467:2 7463:] 7459:) 7453:( 7440:[ 7434:= 7428:) 7425:V 7422:( 7409:2 7405:] 7401:) 7395:( 7382:[ 7373:) 7370:T 7367:( 7334:| 7330:) 7324:( 7310:| 7306:= 7302:| 7298:) 7295:T 7292:, 7289:V 7286:( 7276:| 7267:) 7264:V 7261:( 7252:) 7249:T 7246:( 7201:) 7195:( 7182:= 7179:) 7176:T 7173:( 7170:E 7152:= 7148:] 7144:x 7141:d 7137:) 7131:; 7128:x 7125:( 7122:f 7119:) 7116:x 7113:( 7110:t 7103:[ 7084:= 7074:x 7071:d 7067:) 7061:; 7058:x 7055:( 7052:f 7048:] 7044:) 7038:; 7035:x 7032:( 7029:f 7008:) 7002:; 6999:x 6996:( 6993:f 6989:1 6983:[ 6979:) 6976:x 6973:( 6970:t 6964:= 6953:) 6948:] 6944:) 6938:; 6935:X 6932:( 6929:f 6908:) 6902:; 6899:X 6896:( 6893:f 6889:1 6883:[ 6876:T 6872:( 6865:E 6862:= 6855:) 6852:T 6849:, 6846:V 6843:( 6810:0 6807:= 6804:) 6801:V 6798:( 6792:E 6772:) 6769:T 6766:V 6763:( 6757:E 6754:= 6751:) 6748:T 6745:, 6742:V 6739:( 6713:T 6693:V 6673:) 6670:T 6667:, 6664:V 6661:( 6625:0 6622:= 6619:x 6616:d 6612:) 6606:; 6603:x 6600:( 6597:f 6576:= 6573:x 6570:d 6565:] 6561:) 6555:; 6552:x 6549:( 6546:f 6525:) 6519:; 6516:x 6513:( 6510:f 6506:1 6500:[ 6496:) 6490:; 6487:x 6484:( 6481:f 6475:= 6472:) 6469:V 6466:( 6460:E 6437:) 6434:V 6431:( 6425:E 6405:V 6374:) 6368:; 6365:X 6362:( 6359:f 6338:) 6332:; 6329:X 6326:( 6323:f 6319:1 6314:= 6311:) 6305:; 6302:X 6299:( 6296:f 6272:= 6269:V 6242:V 6222:) 6216:( 6185:) 6182:X 6179:( 6176:t 6173:= 6170:T 6150:) 6144:; 6141:x 6138:( 6135:f 6111:X 6088:. 6082:) 6076:( 6073:I 6066:2 6062:] 6058:) 6052:( 6039:[ 6030:) 6027:) 6024:X 6021:( 6018:t 6015:( 5966:) 5960:( 5954:= 5951:) 5948:T 5945:( 5939:E 5919:X 5899:) 5893:( 5870:) 5867:X 5864:( 5861:t 5858:= 5855:T 5820:. 5817:) 5811:( 5803:1 5796:) 5789:( 5786:I 5781:T 5777:) 5770:( 5761:] 5758:h 5755:[ 5722:M 5702:w 5697:1 5690:M 5684:T 5680:w 5676:= 5670:v 5667:M 5662:T 5658:v 5650:2 5642:v 5639:, 5636:w 5625:0 5619:v 5588:v 5585:) 5579:( 5576:I 5571:T 5567:v 5559:2 5551:) 5545:( 5539:, 5536:v 5524:] 5521:h 5518:[ 5481:v 5475:+ 5469:= 5439:n 5434:R 5426:v 5383:] 5380:h 5377:[ 5368:E 5351:) 5345:( 5322:) 5316:( 5308:1 5301:) 5294:( 5291:I 5286:T 5282:) 5275:( 5266:] 5263:h 5260:[ 5225:T 5221:) 5214:( 5206:1 5199:) 5192:( 5189:I 5186:) 5180:( 5171:] 5168:T 5165:[ 5130:m 5125:R 5117:v 5097:v 5092:T 5088:) 5081:( 5073:1 5066:) 5059:( 5056:I 5053:) 5047:( 5039:T 5035:v 5028:v 5025:] 5022:T 5019:[ 5001:T 4997:v 4993:= 4990:] 4987:h 4984:[ 4949:j 4945:T 4939:j 4935:v 4929:j 4918:h 4896:m 4891:R 4883:v 4863:) 4860:X 4857:( 4854:T 4833:R 4812:) 4809:X 4806:( 4803:h 4773:T 4769:) 4762:( 4754:1 4747:] 4743:T 4740:[ 4724:) 4718:( 4709:) 4703:( 4700:I 4672:2 4664:v 4661:) 4655:( 4652:I 4647:T 4643:v 4639:= 4636:) 4623:; 4605:( 4600:2 4591:; 4585:) 4579:( 4571:T 4567:v 4563:= 4560:) 4557:] 4554:T 4551:[ 4542:E 4535:] 4532:T 4529:[ 4515:E 4511:( 4491:v 4485:+ 4479:= 4449:n 4444:R 4436:v 4377:. 4341:) 4335:; 4332:x 4329:( 4326:f 4315:; 4283:x 4263:) 4257:; 4254:x 4251:( 4248:f 4225:x 4222:d 4217:] 4213:) 4207:; 4204:x 4201:( 4198:f 4179:[ 4175:) 4172:x 4169:( 4166:T 4160:= 4156:] 4152:x 4149:d 4145:) 4139:; 4136:x 4133:( 4130:f 4127:) 4124:x 4121:( 4118:T 4111:[ 4075:T 4035:x 4012:) 4006:; 4003:x 4000:( 3997:f 3956:0 3950:) 3944:; 3941:x 3938:( 3935:f 3915:x 3891:) 3888:X 3885:( 3882:T 3862:) 3856:; 3853:x 3850:( 3847:f 3815:. 3810:1 3802:) 3797:m 3794:m 3789:] 3784:) 3776:( 3772:I 3768:[ 3763:( 3753:m 3750:m 3745:] 3739:1 3731:) 3723:( 3718:I 3714:[ 3704:m 3701:m 3696:] 3691:) 3687:) 3684:X 3681:( 3677:T 3672:( 3654:[ 3649:= 3646:) 3643:) 3640:X 3637:( 3632:m 3628:T 3624:( 3581:. 3576:1 3568:) 3560:( 3555:I 3548:) 3544:) 3541:X 3538:( 3534:T 3529:( 3487:= 3483:) 3475:( 3423:) 3420:X 3417:( 3413:T 3399:. 3385:j 3373:/ 3369:) 3361:( 3356:i 3328:j 3325:i 3292:/ 3288:) 3280:( 3266:) 3260:( 3231:B 3225:A 3205:B 3199:A 3170:T 3166:) 3159:( 3151:1 3143:) 3135:( 3130:I 3127:) 3121:( 3111:) 3107:) 3104:X 3101:( 3097:T 3092:( 3068:, 3056:) 3050:( 3042:1 3034:) 3030:) 3027:X 3024:( 3020:T 3015:( 2995:T 2991:) 2984:( 2974:) 2966:( 2962:I 2939:) 2936:X 2933:( 2929:T 2904:) 2896:( 2871:] 2868:) 2865:X 2862:( 2858:T 2854:[ 2848:E 2826:T 2822:) 2818:) 2815:X 2812:( 2807:d 2803:T 2799:, 2793:, 2790:) 2787:X 2784:( 2779:1 2775:T 2771:( 2768:= 2765:) 2762:X 2759:( 2755:T 2734:) 2731:X 2728:( 2724:T 2700:. 2696:] 2691:) 2682:; 2679:x 2675:( 2671:f 2657:k 2643:m 2629:2 2618:[ 2611:E 2605:= 2601:] 2596:) 2587:; 2584:x 2580:( 2576:f 2562:k 2544:) 2535:; 2532:x 2528:( 2524:f 2510:m 2492:[ 2485:E 2482:= 2477:k 2474:, 2471:m 2467:I 2441:k 2438:, 2435:m 2431:I 2410:d 2404:d 2373:) 2365:; 2362:x 2359:( 2356:f 2331:d 2326:R 2316:T 2311:] 2305:d 2297:, 2291:, 2286:2 2278:, 2273:1 2264:[ 2259:= 2220:1 2211:2 2208:+ 2205:n 2201:n 2196:= 2193:) 2187:( 2180:b 2176:+ 2173:1 2149:) 2143:( 2140:I 2136:/ 2132:1 2112:1 2106:) 2100:( 2093:b 2089:+ 2086:1 2063:, 2058:2 2054:) 2047:( 2044:b 2041:+ 2035:) 2029:( 2026:I 2019:2 2015:] 2011:) 2005:( 1998:b 1994:+ 1991:1 1988:[ 1978:) 1972:2 1968:) 1946:( 1942:( 1935:E 1905:0 1902:= 1899:) 1893:( 1890:b 1867:. 1861:) 1855:( 1852:I 1845:2 1841:] 1837:) 1831:( 1824:b 1820:+ 1817:1 1814:[ 1804:) 1789:( 1759:) 1753:( 1750:b 1701:) 1695:( 1692:I 1688:/ 1682:2 1678:) 1674:) 1668:( 1657:( 1637:) 1631:( 1605:+ 1602:) 1596:( 1593:b 1590:= 1587:) 1581:( 1552:} 1537:{ 1534:E 1531:= 1528:) 1522:( 1519:b 1461:) 1455:( 1452:I 1412:) 1406:( 1383:) 1377:( 1343:) 1337:( 1334:I 1327:2 1323:] 1319:) 1313:( 1302:[ 1293:) 1290:T 1287:( 1252:) 1246:( 1240:= 1231:} 1228:) 1225:X 1222:( 1219:T 1216:{ 1213:E 1193:) 1187:( 1144:) 1141:X 1138:( 1135:T 1118:. 1106:1 1100:) 1085:( 1082:e 1053:) 1038:( 1025:1 1018:) 1011:( 1008:I 1002:= 999:) 984:( 981:e 921:] 913:2 900:) 894:; 891:X 888:( 880:2 869:[ 857:; 854:X 850:E 846:n 840:= 837:) 831:( 828:I 805:) 799:; 796:x 793:( 767:X 747:X 727:) 721:; 718:x 715:( 712:f 683:; 680:x 676:E 655:x 627:) 624:) 618:; 615:x 612:( 609:f 606:( 597:= 594:) 588:; 585:x 582:( 555:] 550:2 545:) 531:) 525:; 522:X 519:( 507:( 502:[ 490:; 487:X 483:E 479:n 476:= 473:) 467:( 464:I 441:) 435:( 432:I 406:) 400:( 397:I 393:1 385:) 370:( 341:) 335:( 332:I 248:) 242:; 239:x 236:( 233:f 210:x 190:n 43:( 27:.

Index


standard deviation ellipse
estimation theory
statistics
estimation
Harald Cramér
C. R. Rao
Maurice Fréchet
Georges Darmois
Alexander Aitken
Harold Silverstone
precision
unbiased estimator
Fisher information
variance
efficient
mean squared error
minimum variance unbiased
mean squared error
estimator bias
A. Bhattacharyya
scalar
unbiased
later in this section
probability density function
variance
reciprocal
Fisher information
natural logarithm
likelihood function

Text is available under the Creative Commons Attribution-ShareAlike License. Additional terms may apply.