[![][1]][2]

Метод **BFGS**, итерационный метод численной оптимизации, назван в честь его исследователей: **B**royden, **F**letcher, **G**oldfarb, **S**hanno. Относится к классу так называемых квазиньютоновских методов. В отличие от ньютоновских методов в квазиньютоновских не вычисляется напрямую гессиан функции, т.е. нет необходимости находить частные производные второго порядка. Вместо этого гессиан вычисляется приближенно, исходя из сделанных до этого шагов.

Существует несколько модификаций метода:
**L-BFGS** (ограниченное использование памяти) — используется в случае большого количества неизвестных.
**L-BFGS-B** — модификация с ограниченным использованием памяти в многомерном кубе.

Метод эффективен и устойчив, поэтому зачастую применяется в функциях оптимизации. Например в SciPy, популярной библиотеки для языка python, в функции optimize по умолчанию применяется BFGS, L-BFGS-B.

[Читать дальше →][3]

[1]: https://habrastorage.org/web/d3b/b33/f5a/d3bb33f5af204aada6785c7e98c2a53f.jpg
[2]: https://habrahabr.ru/post/333356/
[3]: https://habrahabr.ru/post/333356/?utm_source=habrahabr&utm_medium=rss&utm_campaign=feed_posts#habracut