Про апрель и май напишу общо. Тогда я ещё не вёл историю правок, и точных дат не осталось — папка того периода позже была стёрта. Всё, что дальше, датировано по записям в коде.
Началось с раздражения. Меня давно злило одно: чтобы запустить нормальную модель, нужна видеокарта за несколько тысяч долларов. Для команды — стойка таких карт или облако, куда уезжают твои документы. При этом сама модель на девяносто процентов состоит из чисел, записанных с точностью, которая им не нужна. Это как возить мешок картошки на грузовике, потому что все так возят.
Поэтому первый вопрос я поставил себе не «как ужать модель», а другой: сколько информации в одном весе есть на самом деле. Два месяца гонял чужие модели в разных режимах сжатия и смотрел, где качество проваливается.
Показать по итогам было нечего. Вообще ничего — ни одного результата, который можно положить на стол и сказать «вот». Два месяца работы, и на выходе только понимание. Это, наверное, самое неприятное время в любой такой затее: делаешь много, а предъявить нечем, и объяснить со стороны невозможно.
Зато понимание было настоящее. Провал качества случается не там, где ждёшь, и зависит не столько от числа бит, сколько от того, как и на чём модель сжимали. Чужие цифры при проверке на моём стенде разваливались с завидной регулярностью — особенно на русском.
Отсюда правило, которое мы с тех пор не нарушали: ни одна цифра не считается нашей, пока не проверена на нашем железе и на русском языке. Английские метрики врут молча. Модель может улучшиться по бумагам и разучиться думать по-русски — мы такое ловили потом не раз, и каждый раз это было бы незаметно, если верить чужому отчёту.
Андрей Рощупкин