До сих пор Тернит жил на съёмных серверах. Мощную машину с видеокартой берёшь в аренду по часам: считаешь на ней, сколько нужно, и отдаёшь обратно. Вместе с машиной уходит и всё, что на ней лежало, поэтому данные приходилось держать в разных местах и перевозить с сервера на сервер. Модели был нужен свой угол, который никуда не исчезает.
Этот угол появился благодаря RealityHost. Компания выделила нам сервер бесплатно, в поддержку разработки. Машина серьёзная: две видеокарты по 22 ГБ памяти, 251 ГБ оперативной памяти и диск на 6,4 ТБ. На таком диске помещается всё, что Тернит знает и читает.
Запустился сервер не сразу. Три дня ушли на то, чтобы он заработал как надо. Трижды его привозили в дата-центр, там он работать не хотел, и его возвращали обратно в офис разбираться. С третьего раза всё получилось. Огромная благодарность Родиону из RealityHost: он довёл дело до конца и не бросил на полпути.
Что здесь будет жить. Первым переехал архив: обученные версии ядра, проверочные тексты и банк — большое хранилище знаний, в котором Тернит ищет ответы. Дальше на второй видеокарте пойдёт обучение экспертов. Эксперт — небольшая надстройка над ядром, которая учит модель новому, например английскому языку. Последним переедет сам бот. Сейчас он ещё отвечает со съёмного сервера: видеокарты нового дома постарше, и программу, которая пишет ответы, сначала нужно научить на них работать.
Тернит больше не живёт на чемоданах: у него постоянная прописка в России.
Андрей Рощупкин · Тернит