На вычмате в вузе в прошлом году делал умное лицо и вовремя сдавал лабы, так что получил 5 практически ни за что. Сейчас внезапно понадобилось понять, как работают эти ваши Гауссы-Ньютоны и гессианы. Если более конкретно - в основном нужен материал по методам оптимизации, а ещё по решению систем линейных уравнений и аппроксимации функций.
Дэннис Дж., Шнабель Р. Численные методы безусловной оптимизации и решения нелинейных уравнений.
Также подойдет, полагаю,Амосов А.А., Дубинский Ю.А., Копченова Н.В. Вычислительные методы для инженеров