Недавно OpenAI увеличила для gpt-3.5-turbo количество контекстных токенов для промпта. Если раньше было доступно только 4К токенов для контекста промта, то теперь можно выбрать еще и 16К токенов. 16К контекстных токенов стоит дороже, но это дает возможность писать более развернутые подсказки для чат-бота, что значительно повышает эффективность и релевантность ответов. Поэтому учтите это при настройке.
На данный момент мы увеличили выбор поля для промптов до 30К символов (не путать с токенами) и разрешили указывать модель 4K context и 16K context.
