Нелинейное оценивание

Нелинейная регрессия (nonlinear regression) – регрессионная модель зависимости результативной переменной от одной или нескольких объясняющих переменных, выражаемая в виде нелинейной функции.

Все нелинейные модели регрессии могут быть разделены, как и линейные модели, на парные и множественные. По целям и решаемым задачам нелинейная регрессия аналогичная классической линейной регрессией. Отличие только в форме связи и методах оценки параметров.

Выбор формы связи нелинейной зависимости осуществляется по следующим критериями:
- исходя из содержательного анализа исследуемого явления;
- на основе результатов анализа взаимосвязи между переменными, например, с помощью графического метода.

Для оценки параметров нелинейных регрессий могут использоваться два подхода:
- линеаризация уравнения с помощью подходящих преобразований и оценка его параметров с помощью метода наименьших квадратов;
- оценка параметров на основе метода максимального правдоподобия и применение итеративных процедур методов оптимизации.

Различают два класса нелинейных регрессий:
- нелинейные регрессии по включаемым в них предикторам, но линейные по параметрам;
- нелинейные регрессии по включаемым в них предикторам и по оцениваемым параметрам.

Функции, нелинейные по объясняющим переменным, можно свести к линейным с помощью замены переменных. Функции, нелинейные по оцениваемым параметрам и переменным-факторам, сводят к линейным моделям с помощью логарифмирования и замены переменных. В случае невозможности подбора линеаризующего преобразования для оценки параметров используют методы нелинейной оптимизации на основе исходных данных.

На практике наилучшую нелинейную модель выбирают обычно на основе наименьшей остаточной стандартной ошибки, рассчитанной для различных моделей. При сопоставимой точности нескольких нелинейных моделей выбирать всегда следует более простую модель.

Подробнее...