Обучение дальше в TensorFlow

Метод fit удобно закрывает типовой цикл, но иногда шаг спуска нужно собрать вручную: лентой считают ошибку, берут градиент и передают его оптимизатору.

На неустойчивых задачах градиент обрезают, чтобы один большой шаг не разрушил веса. Число эпох можно не задавать заранее: обучение останавливают, когда ошибка перестаёт заметно улучшаться.

Для двух классов и для гладкого отклонения выбирают отдельные функции ошибки. Шаг обучения меняют по расписанию, а качество смотрят не только по одной величине на экране.

Промежуточные веса сохраняют по ходу прогона, чтобы не начинать с нуля после сбоя или долгого подбора параметров.

Со всем этим мы и будем разбираться в рамках данного раздела.