«Chat» у Z.ai означає дві різні речі: режим на сайті chat.z.ai і звичайний виклик chat/completions в API. Ця стаття — про другий: як побудувати чат на моделях GLM, керувати історією та контекстом і не переплачувати за reasoning.
Коротко: API не зберігає стан, тому історію і system prompt ви надсилаєте в кожному запиті. Для чату за замовчуванням підходить GLM-5.3-Flash з reasoning_effort: low, а GLM-5.3 варто залишити для коду.
Оновлено: 10 листопада 2026. Моделі й параметри API перевірено на цю дату.
⚡ Коротко
- ✅ Chat в API — це
/chat/completions, сумісний з OpenAI. Окремого «chat-ендпоінта» немає.
- ✅ Stateless: сервер не пам'ятає розмову, історію передаєте ви.
- ✅ Модель для чату: GLM-5.3-Flash — дешева, з MIT-ліцензією, розуміє зображення.
- ✅ Reasoning не вимикається, але
low робить відповіді швидшими й дешевшими.
- ✅ Tool calling у чаті працює — агента збирають з того самого виклику.
- 🎯 Приклад: чат з пам'яттю на Java і Spring AI.
📚 Зміст статті
Огляд усієї платформи, лінійки GLM і цін — у статті Z.ai у 2026: лінійка GLM, Chat vs Agent, API і ціни.
🎯 Chat у Z.ai: на сайті і в API
Коротка відповідь: на chat.z.ai Chat — це режим інтерфейсу, у якому модель відповідає текстом, без генерації файлів. В API окремого режиму немає: будь-який діалог — це запит до /chat/completions, і саме ви вирішуєте, чи передавати моделі інструменти.
| Chat на chat.z.ai | Chat через API |
| Для кого | Користувач у браузері | Розробник у своєму застосунку |
| Історія | Зберігає сайт | Зберігаєте ви |
| Інструменти | Немає (для них — режим Agent) | Будь-які ваші через tools |
| Оплата | Безкоштовно з лімітами | За токени або за GLM Coding Plan |
Чим відрізняється режим Agent на сайті — у статті Режим Agent у Z.ai.
🧩 Яку модель обрати для чату
| Модель | Коли брати для чату | Вхід | Ціна, $ за 1M (вхід / вихід) |
| GLM-5.3-Flash | За замовчуванням: чат-боти, RAG, підтримка | Текст, зображення, відео | 0.15 / 0.50 |
| GLM-5.3 | Питання про код, складний аналіз | Тільки текст | 1.40 / 4.40 |
| GLM-5 | Якщо вже працює і вистачає 200K контексту | Тільки текст | 1.00 / 3.20 |
Джерела: Z.ai: GLM-5.3, Codersera: GLM-5.3-Flash, GetDeploying: GLM-5. Ціни перевірено 10 листопада 2026.
💡 Мій вибір для чату: Flash. Різниця в ціні майже десятикратна, а для типових питань користувачів флагман дає мало переваг.
🔄 Як працює запит: історія і system prompt
Коротка відповідь: API Z.ai не зберігає розмову між запитами. У кожному запиті ви надсилаєте весь масив messages: system prompt, попередні репліки і нове питання. Модель бачить лише те, що є в цьому масиві.
{
"model": "glm-5.3-flash",
"messages": [
{"role": "system", "content": "Ти — асистент техпідтримки. Відповідай українською."},
{"role": "user", "content": "Як змінити пароль?"},
{"role": "assistant", "content": "Відкрийте Налаштування → Безпека..."},
{"role": "user", "content": "А якщо я забув старий?"}
],
"reasoning_effort": "low",
"stream": true
}
- ✔️ System prompt — у кожному запиті. Якщо не передати його, модель про нього не знатиме: сервер нічого не пам'ятає.
- ✔️ Поведінку можна міняти на ходу. Хочете інший тон для наступної відповіді — змініть system prompt у наступному запиті.
- ✔️ Порядок має значення: system першим, далі репліки в хронологічному порядку.
📏 Контекст 1M: коли передавати все, а коли обрізати
Коротка відповідь: GLM-5.3 і GLM-5.3-Flash приймають до 1M токенів, тож ліміт контексту в чаті майже не трапляється. Але кожен запит знову оплачує всю історію, тому обрізати її все одно варто.
Чат на 50 повідомлень по 300 токенів — це 15 000 токенів вхідних даних у кожному наступному запиті. Великий контекст знімає технічне обмеження, але не економічне.
| Стратегія | Коли підходить |
| Вікно останніх N повідомлень | Звичайний чат-бот, техпідтримка |
| Стиснення старої історії в короткий підсумок | Довгі сесії, де важливий ранній контекст |
| RAG: тільки релевантні фрагменти документів | Відповіді з бази знань. Дешевше й точніше, ніж передавати всі документи |
| Уся історія | Короткі сесії або аналіз одного великого документа |
Кешування. Кешований вхід коштує дешевше за звичайний. Тримайте незмінну частину запиту на початку: system prompt і довідкові дані, а нові повідомлення додавайте в кінець. Деталі — у документації Context Caching.
🧠 Reasoning effort для чату
Коротка відповідь: у GLM-5.3 reasoning увімкнений завжди. Параметр reasoning_effort приймає low, high або max, і за замовчуванням стоїть max. Для чату майже завжди потрібен low.
| Рівень | Для чого в чаті |
low | Звичайні питання, підтримка, RAG |
high | Пояснення складних тем, порівняння варіантів |
max | Питання про код і багатокроковий аналіз |
⚠️ Найчастіша помилка: не вказати рівень і отримати max за замовчуванням. Відповіді стають повільнішими й дорожчими там, де це не потрібно. А запит із thinking: {"type": "disabled"} до GLM-5.3 завершиться помилкою (Z.ai).
🛠️ Tool calling у чаті
Чат в API може викликати ваші функції: передайте tools з описом у JSON Schema, і модель поверне tool_calls, коли їй знадобляться дані. Виконує функцію ваш код, а не модель. Так чат-бот може, наприклад, перевірити статус замовлення в базі.
Коли викликів стає кілька поспіль і модель сама планує кроки — це вже агент. Як його зібрати, описано в статті Режим Agent у Z.ai.
☕ Приклад: чат з пам'яттю на Spring AI
API Z.ai сумісний з OpenAI, тому підходить стандартний стартер spring-ai-starter-model-openai: достатньо вказати адресу Z.ai і модель.
⚠️ Код написано під API Spring AI 1.x і в цій версії статті не запускався. Якщо у вас інша версія, назви класів і властивостей можуть відрізнятися.
application.properties
spring.ai.openai.api-key=${ZAI_API_KEY}
spring.ai.openai.base-url=https://api.z.ai/api/paas/v4
spring.ai.openai.chat.completions-path=/chat/completions
spring.ai.openai.chat.options.model=glm-5.3-flash
spring.ai.openai.chat.options.reasoning-effort=low
completions-path потрібен тому, що за замовчуванням Spring AI додає до адреси /v1/chat/completions, а в Z.ai шлях інший.
Конфігурація: пам'ять на 20 повідомлень
@Configuration
public class ChatConfig {
@Bean
ChatMemory chatMemory() {
return MessageWindowChatMemory.builder()
.maxMessages(20)
.build();
}
@Bean
ChatClient chatClient(ChatClient.Builder builder, ChatMemory chatMemory) {
return builder
.defaultSystem("Ти — асистент техпідтримки. Відповідай українською, коротко.")
.defaultAdvisors(MessageChatMemoryAdvisor.builder(chatMemory).build())
.build();
}
}
Сервіс: стрімінг відповіді
@Service
@RequiredArgsConstructor
public class SupportChatService {
private final ChatClient chatClient;
public Flux<String> ask(String conversationId, String question) {
return chatClient.prompt()
.user(question)
.advisors(a -> a.param(ChatMemory.CONVERSATION_ID, conversationId))
.stream()
.content();
}
public String askAboutCode(String conversationId, String question) {
return chatClient.prompt()
.user(question)
.options(OpenAiChatOptions.builder()
.model("glm-5.3")
.reasoningEffort("max")
.build())
.advisors(a -> a.param(ChatMemory.CONVERSATION_ID, conversationId))
.call()
.content();
}
}
Що тут відбувається
- ✔️ Stateless під капотом. Advisor перед кожним запитом сам додає system prompt і останні 20 повідомлень у
messages. Це та сама механіка з розділу 3, тільки автоматизована.
- ✔️ Обрізання історії.
MessageWindowChatMemory рахує повідомлення, а не токени. Для чату цього зазвичай вистачає. Якщо репліки бувають дуже довгими, обмежуйте ще й за токенами.
- ✔️ Дві моделі в одному сервісі. Звичайні питання йдуть на Flash з
low, питання про код — на GLM-5.3 з max через перевизначення опцій.
- ⚠️ Пам'ять в оперативці зникає після перезапуску. Для продакшну під'єднайте JDBC-репозиторій пам'яті, наприклад у PostgreSQL.
🧭 Коли вистачає чату, а коли ні
| ✅ Вистачає чату | ❌ Потрібне інше |
| Чат-бот підтримки, FAQ, внутрішній асистент | Багатокрокові задачі з кількома інструментами — агент |
| RAG: відповіді з бази знань | Готові файли .docx, .xlsx — режим Agent або власна генерація |
| Пояснення коду, рев'ю, генерація функцій | Аналіз зображень на рівні Gemini — інша модель |
| Генерація текстів у заданому стилі | Персональні дані з ЄС без перевіреного договору — інший провайдер або self-hosting |
❓ Часті питання
Чим Chat відрізняється від Agent у Z.ai?
На сайті chat.z.ai Chat відповідає текстом, а Agent сам планує кроки, викликає вбудовані інструменти і створює файли. В API такого поділу немає: є один виклик chat/completions, а інструменти ви додаєте самі.
Чи пам'ятає API Z.ai попередні повідомлення?
Ні. API не зберігає стан між запитами, тому історію розмови і system prompt потрібно надсилати в кожному запиті.
Яку модель GLM обрати для чат-бота?
Для більшості чат-ботів — GLM-5.3-Flash з reasoning_effort: low: вона дешева і підтримує зображення. GLM-5.3 варто брати для питань про код і складного аналізу.
Як вимкнути thinking у GLM-5.3?
Ніяк: у GLM-5.3 reasoning увімкнений завжди. Мінімальний рівень — reasoning_effort: low. Запит із thinking: {"type": "disabled"} до GLM-5.3 завершиться помилкою.
✅ Висновки
- 🔹 Chat в API — це звичайний
chat/completions. Режими Chat і Agent існують лише на сайті.
- 🔹 API stateless: історія і system prompt — у кожному запиті.
- 🔹 Контекст 1M знімає технічний ліміт, але не вартість. Обрізайте історію або використовуйте RAG.
- 🔹 Для чату — GLM-5.3-Flash і
low, для коду — GLM-5.3 і max.
- 🔹 У Spring AI підключення займає кілька рядків конфігурації завдяки OpenAI-сумісності.
Головна думка: найбільше в чаті на Z.ai економить не вибір провайдера, а два налаштування: правильна модель і рівень reasoning.