J mesure la moyenne des carrés de toutes les erreurs commises. La meilleure droite d'ajustement est celle correspondant à la valeur de J la plus petite possible.

Étude de J

1- quand expérimentalement  b = 0

J est une fonction de a (notation mathématique J(a)). Étudions cette fonction :

J(a) = a a² - b a + g  avec 

J est une fonction du second degré en a avec a > 0.
J admet pour dérivée :                             
qui s'annule en changeant de signe pour  

Donc pour cette valeur a₀ la fonction J admet un minimum.
La meilleure droite de modélisation est donc la droite d'équation v = a₀.t

Application numérique : étude cinématique de la chute libre

Dans le premier tableau ci-dessous, les 2 premières colonnes contiennent les valeurs de  t_i et v_i relevées lors du T.P. de sciences physiques.
Le second tableau donne les valeurs de J(a) pour des valeurs de a variant entre 9.70 et 9.9 ce qui permet de repérer une valeur approximative de a pour laquelle J est minimum.

En appliquant les résultats mathématiques établis ci-dessus, calculer a₀ :

La meilleure droite de modélisation a pour équation : 

Retrouvez-vous la valeur a₀ observée en T.P. de physique ?

J est alors une fonction de deux variables J(a, b). Les outils mathématiques pour étudier une telle fonction ne sont pas au programme de mathématiques de Terminale S mais ils existent cependant. On peut donc trouver a₀ et b₀ minimisant J.

Pour cela, il a été démontré que la meilleure droite d'ajustement D passe par le barycentre G(t_G, v_G) des n points M_i. On peut alors écrire : v = a(t - t_G) + v_G = a.t +(v_G - a.t_G) 

La valeur a₀ de a minimisant l'écart quadratique J peut être calculée comme précédemment. Il existe aussi des formules mathématiques donnant directement les valeurs a₀ et b₀. On peut les obtenir à l'aide de la calculatrice.