Перейти к содержанию
Искусственный интеллект

Токен

Минимальный кусок текста, которым оперирует языковая модель: часть слова, знак препинания, пробел. В токенах считают и объем запроса, и цену работы модели.

Сколько это в словах

Для английского один токен – примерно четыре символа, для русского меньше: кириллица дробится мельче. Грубая прикидка – русский текст обходится в полтора-два раза дороже английского той же длины.

Зачем это знать

Если планируете встроить ассистента на сайт, цена считается в токенах: и то, что вы отправили, и то, что модель ответила. Длинная инструкция в каждом запросе – это расход на каждом обращении.

Проверим ваш сайт по этим же пунктам

Посмотрим, что мешает сайту расти, и скажем, с чего начать. Бесплатно, за два рабочих дня.