Есть две основные модели регрессионного анализа.
1. Независимая переменная - детерминированная. Зависимая переменная равна сумме функции от независимой плюс случайные погрешности. Функция известна с точностью до параметров, каковые оценивают методом наименьших квадратов. Дурная традиция состоит в том, что распределение погрешностей считают нормальным. Хотя нет оснований принимать нормальность распределения погрешностей, это предположение кочует из книги в книгу. Если автор пишет о критериях Стьюдента или Фишера, он принимает, что распределение погрешностей нормально, хотя из-за своей малограмотности может об этом даже не упоминать.
2. Во второй модели принимают, что наблюдаемые пары чисел - выборка из двумерного распределения. В этом случае регрессия - это условное математическое ожидание. Часто принимают, что распределение пар - двумерное нормальное. Обоснования никакого, и реальные распределения не являются нормальными.
В обоих случаях причина - наличие теории, основанной на нормальности. По пословице: "Искать ключи надо под фонарем, где светлее, а не в кустах, где потерял".
Без предположения нормальности можно обойтись, развивая непараметрические методы (см. наш учебник "Прикладная статистика"
http://orlovs.pp.ru/stat.php#k1