1.2 KiB
1.2 KiB
Градинет - вектор, своим направлением указывающий направление наискорейшего роста некоторой скалярной величины.
Градиентный спуск - математический метод, который итеративно находит веса и смещения, обеспечивающие модель с наименьшей функцией потерь. Градиентный спуск находит оптимальные веса и смещения, повторяя процесс заданное количество итераций.
Происходит это по данному алгоритму:
- Расчет потерь при текущем весе (m) и смещении (b)
- Определение направления перемещения весов (m) и смещения (b), что бы уменьшить потери
- Слегка изменить значение веса и смещения в направлении, которое было определено.
- Повтор алгоритма до тех пор, пока значение потерь не уменьшится еще меньше.