Claude Dynamic Filtering: +11% Точності і -24% Токенів — Повний Розбір

Чому статичні фільтри — архітектурна проблема, а не просто незручність

Коротко: Коли розробник задає фільтри до запиту — він приймає рішення про релевантність до того, як модель зрозуміла питання. Це інверсія правильного порядку обробки інформації.

Уявіть, що ви наймаєте дослідника і перш ніж він прочитав ваше завдання — ви вже кажете йому: "Шукай тільки на Wikipedia і тільки статті за 2024 рік." Дослідник ще не знає, що саме шукати, але фільтри вже накладені. Саме так працювали статичні фільтри у web search до лютого 2026 року.

Технічно проблема виглядала ось як: у традиційному пошуковому pipeline розробник передавав до API параметри фільтрації — дозволені домени, діапазон дат, типи контенту — разом із запитом користувача. Модель отримувала вже відфільтровані результати та намагалась відповісти на питання з того, що залишилось. Якщо фільтри були надто вузькими — відповідь була неповною або відсутньою. Якщо надто широкими — контекстне вікно заповнювалось нерелевантним HTML (меню навігації, cookie-банери, рекламні блоки, сайдбари), і модель витрачала токени на "шум" замість сигналу.

Але найглибша проблема навіть не в ширині фільтрів. Вона в тому, що рішення про фільтрацію приймається на основі мета-даних запиту, а не на основі змісту результатів. Розробник не може знати заздалегідь, який саме розділ сторінки буде релевантним, з якого абзацу починається потрібна таблиця цін, або чи потрібно взагалі фільтрувати за датою для цього конкретного питання. Це рішення може прийняти тільки той, хто вже побачив контент, тобто сама модель.

Статичні фільтри — це архітектурний компроміс епохи, коли моделі не вміли виконувати код під час інференсу. Розробники задавали фільтри наперед, бо не було іншого способу контролювати обсяг контексту. Dynamic filtering вирішує цю проблему принципово: фільтрація відбувається після того, як модель побачила результати, але до того, як вони потрапляють у context window для фінального reasoning.

Як Claude будує search query з контексту: від промпту до пошукового наміру

Коротко: Claude розкладає user intent на search intent через кілька внутрішніх кроків, і динамічність filtering починається вже на рівні формулювання запиту — задовго до того, як перший HTML завантажується.

Щоб зрозуміти, де з'являється "динамічність", потрібно розібрати весь pipeline від промпту користувача до фінальної відповіді. Він складається з кількох рівнів, і кожен вносить свій вклад у те, наскільки точним буде результат.

На першому рівні відбувається intent decomposition — модель аналізує запит користувача та визначає, що саме шукати. Запит "знайди поточну ціну AAPL і розрахуй P/E ratio" модель розкладає на два підзапити: перший — знайти актуальну ціну акції, другий — знайти показник EPS для розрахунку. Кожен підзапит має свій оптимальний набір джерел та критеріїв релевантності.

На другому рівні відбувається query construction — формування конкретних пошукових запитів з ключовими словами. Тут модель використовує контекст розмови, доступні інструменти та власне розуміння теми, щоб сформулювати запити, які дадуть релевантні результати. Це не просто передача промпту користувача в пошуковик — це переклад з "людської мови наміру" на "мову ефективного пошуку".

На третьому рівні, який і є ключовою новацією, відбувається post-retrieval code execution. Після того як результати пошуку повернуті (у форматі сирого HTML або JSON-сніпетів), модель не завантажує їх одразу в context window. Натомість вона пише невеликий Python-скрипт для витягування лише релевантних частин: конкретних таблиць, параграфів, числових даних, заголовків. Скрипт виконується в ізольованому sandbox-середовищі, і в context window потрапляє вже очищений, структурований результат.

Якщо порівняти з попереднім підходом: раніше розробник мав написати такий скрипт сам, передбачити всі можливі структури HTML різних сайтів, і підтримувати цей код при кожній зміні верстки. Тепер модель генерує відповідний екстрактор на льоту — і якщо структура сторінки змінилась, наступного разу скрипт буде іншим.

Розділ 3. Dynamic filtering під капотом: що реально змінилося в API

Коротко: Головна зміна — поява версії інструменту web_search_20260209 з вбудованим code execution sandbox, де фільтрація відбувається за межами context window, а в модель потрапляє тільки очищений результат.

Технічна реалізація dynamic filtering базується на трьох компонентах, які разом утворюють нову архітектуру пошукового pipeline. Розберемо кожен з них детально.

Компонент 1: Нова версія web search tool

Anthropic випустив дві нові версії інструментів: web_search_20260209 та web_fetch_20260209. Саме в цих версіях вбудована підтримка dynamic filtering. Попередні версії залишаються доступними для зворотної сумісності. Детальна документація: Web Search Tool — Claude API Docs.

API-запит виглядає ось так:

{
"model": "claude-4-6",
"max_tokens": 4096,
"tools": [
{
"type": "web_search",
"name": "web_search"
},
{
"type": "web_fetch",
"name": "web_fetch"
}
],
"messages": [
{
"role": "user",
"content": "Знайди поточні ціни AAPL і GOOGL, потім розрахуй яка має кращий P/E ratio."
}
]
}

Компонент 2: Beta header та code execution sandbox

Dynamic filtering вимагає окремого beta header в запиті:

anthropic-beta: code-execution-web-tools-2026-02-09

Цей header активує право моделі виконувати код під час обробки пошукових результатів. Технічно code execution відбувається в ізольованому sandbox-середовищі на серверах Anthropic — поза контекстним вікном. Це критично: код та проміжні результати його виконання не споживають токени context window.

Компонент 3: Вартісна модель

Anthropic ухвалив стратегічне рішення: code execution при використанні з web search або web fetch — безкоштовний. Ви платите тільки за стандартні input/output токени, обсяг яких зазвичай зменшується завдяки ефективній фільтрації.

BrowseComp та DeepsearchQA: що кажуть бенчмарки і як їх читати

Коротко: +11% точності та -24% input токенів — це результати на двох типах задач. Проте для моделі Opus існує нюанс щодо вартості через складність генерованого коду.

BrowseComp: задача "голка в сіні"

Тестує здатність знайти конкретний факт серед великого обсягу "шуму". Результати показують суттєвий приріст продуктивності:

DeepsearchQA: задача на повноту охоплення

Вимірює F1 score для дослідницьких запитів, де потрібно знайти всі згадки об'єктів. Тут динамічна фільтрація допомагає моделі не "тонути" в деталях і зберігати фокус на структурі відповіді.

Важливо: Хоча середня економія токенів складає 24%, для Opus 4.6 вартість запиту може іноді зростати. Складний код-фільтр, який генерує Opus, сам споживає output-токени. Якщо вигода від стиснення контенту менша за обсяг коду — фінальний чек буде вищим.

Dynamic Web Search vs RAG: коли що обирати і чому це не конкуренти

Коротко: RAG — це retrieval з вашої knowledge base, web search — це retrieval з відкритого інтернету. Dynamic filtering наближає web search до RAG за точністю витягування, але не замінює його: це різні рівні архітектури для різних задач.

Ключова різниця між цими підходами полягає у природі джерела даних і рівні контролю над ними.

• RAG (Retrieval-Augmented Generation): Ви самі контролюєте knowledge base. Ви індексуєте власні документи, будуєте vector embeddings та налаштовуєте similarity threshold. Це ідеально для внутрішньої документації та корпоративних знань.
• Dynamic Web Search: Ви не контролюєте джерело. Структура сторінок змінюється, джерела можуть бути суперечливими. Проте ви отримуєте актуальну інформацію без витрат на підтримку власної бази.

Dynamic filtering наближає web search до RAG у одному конкретному аспекті — точності вилучення релевантного контенту з "брудного" джерела.

Гібридна архітектура

Найефективніший підхід для складних систем — це поєднання обох методів. Нижче наведено концептуальний приклад роутера, який обирає інструмент залежно від типу запиту:

# Концептуальний приклад hybrid router
def route_query(query: str, context: dict) -> str:
if requires_internal_knowledge(query):
return rag_retrieve(query, internal_vector_db)
elif requires_realtime_data(query):
return web_search_with_dynamic_filtering(query)
else:
return combine_both_sources(query)

Dynamic filtering не замінює RAG — він робить web search достатньо точним, щоб стати надійним доповненням у тих сценаріях, де приватна база знань не має актуальних відповідей.

Практичні патерни інтеграції: коли довіряти моделі, коли override

Коротко: Dynamic filtering найефективніший для "зашумлених" джерел і складних multi-step пошуків. Але для compliance-чутливих або highly specialized доменів розробник часто знає краще за модель — і override залишається важливим інструментом.

Сценарії, де dynamic filtering виграє:

• Технічна документація: Витягування конкретних параметрів (наприклад, payload limits) без завантаження десятків кілобайт зайвого HTML.
• Академічні дослідження: Фільтрація абстрактів та релевантних параграфів з наукових баз, відсікаючи навігацію та рекламу.
• Competitive Intelligence: Автоматична адаптація під унікальну верстку сайтів конкурентів для збору цін та фіч.

Сценарії, де варто зберігати статичний контроль (Override):

• Compliance та юридичні задачі: Коли використання лише акредитованих джерел є обов'язковим.
• Вузькоспеціалізовані домени: Якщо існують 2-3 безальтернативні авторитетні джерела.
• Критичні числові дані: Real-time трейдинг, де помилка у витягуванні цифри неприпустима — тут потрібен додатковий шар валідації.

Рекомендований hybrid pattern для production:

import anthropic
client = anthropic.Anthropic()
def search_with_dynamic_filtering(
query: str,
allowed_domains: list = None,  # override для compliance
validate_output: bool = True    # додатковий шар валідації
) -> dict:
tools = [
{"type": "web_search", "name": "web_search"},
{"type": "web_fetch, "name": "web_fetch"}
]
# Обмеження доменів через system prompt
system = ""
if allowed_domains:
system = f"Search only on these domains: {', '.join(allowed_domains)}"
response = client.messages.create(
model="claude-3-7", # Або актуальна версія 4.6
max_tokens=4096,
system=system,
tools=tools,
messages=[{"role": "user", "content": query}],
extra_headers={
"anthropic-beta": "code-execution-web-tools-2026-02-09"
}
)
if validate_output:
return validate_search_result(response)
return response

Обмеження та де dynamic filtering все одно ламається

Коротко: Dynamic filtering — це значне покращення, але не срібна куля. Є щонайменше чотири класи ситуацій, де він дає збої, і знати їх важливо до того, як ви покладете на нього production-навантаження.

Порада архітектора: Використовуйте Sonnet 4.6 як "робочу конячку" для більшості задач з dynamic filtering — він демонструє кращий баланс швидкості, вартості та точності фільтрації.

Як увімкнути та налаштувати: повний гайд для розробника

Коротко: Три обов'язкових компоненти: версія інструменту web_search_20260209, beta header code-execution-web-tools-2026-02-09, та підтримувана модель (Opus 4.6 або Sonnet 4.6). Все разом — і dynamic filtering активується автоматично.

Крок 1: Встановлення залежностей

pip install anthropic --upgrade
# Потрібна версія >= 0.40.0 для підтримки нових tool versions

Крок 2: Базовий запит з dynamic filtering

import anthropic
client = anthropic.Anthropic()
response = client.messages.create(
model="claude-3-7",  # або актуальна версія 4.6
max_tokens=4096,
tools=[
{
"type": "web_search",
"name": "web_search"
},
{
"type": "web_fetch",
"name": "web_fetch"
}
],
messages=[
{
"role": "user",
"content": "Знайди актуальні ціни на GPU RTX 5090 в Україні та порівняй три найкращі пропозиції."
}
],
extra_headers={
"anthropic-beta": "code-execution-web-tools-2026-02-09"
}
)
print(response.content)

Крок 3: Research agent з multi-step пошуком

import anthropic
client = anthropic.Anthropic()
def research_agent(research_query: str) -> str:
"""
Multi-step research agent з dynamic web search filtering.
Оптимальний для DeepsearchQA-типу задач: знайти всі відповіді.
"""
system_prompt = """
Ти — дослідницький агент. При пошуку:
1. Розбивай складні запити на підзапити
2. Перевіряй інформацію в кількох джерелах
3. Повертай структуровані результати з посиланнями
4. Вказуй рівень впевненості для кожного факту
"""
response = client.messages.create(
model="claude-sonnet-4-6",
max_tokens=8192,
system=system_prompt,
tools=[
{"type": "web_search", "name": "web_search"},
{"type": "web_fetch", "name": "web_fetch"}
],
messages=[
{"role": "user", "content": research_query}
],
extra_headers={
"anthropic-beta": "code-execution-web-tools-2026-02-09"
}
)
return response.content
# Використання
result = research_agent(
"Знайди всі українські AI стартапи що отримали інвестиції у 2025 році: "
"назва, раунд, сума, інвестор."
)

Крок 4: Моніторинг використання токенів

Щоб оцінити реальну економію токенів у вашому конкретному use case, додайте логування:

def search_with_token_monitoring(query: str) -> dict:
response = client.messages.create(
model="claude-sonnet-4-6",
max_tokens=4096,
tools=[
{"type": "web_search", "name": "web_search"}
],
messages=[{"role": "user", "content": query}],
extra_headers={
"anthropic-beta": "code-execution-web-tools-2026-02-09"
}
)
# Моніторинг токенів
usage = response.usage
print(f"Input tokens: {usage.input_tokens}")
print(f"Output tokens: {usage.output_tokens}")
print(f"Cache read tokens: {usage.cache_read_input_tokens}")
# Вартість для Sonnet 4.6 (приклад розрахунку)
cost = (usage.input_tokens * 3 + usage.output_tokens * 15) / 1_000_000
print(f"Estimated cost: ${cost:.4f}")
return {
"content": response.content,
"usage": usage,
"cost": cost
}

Повна документація:

Web Search Tool — Claude API Docs,

Release Notes — Claude API.

❓ Часті питання (FAQ)

✅ Висновки

Dynamic filtering — це зміна парадигми в тому, коли і ким приймається рішення про релевантність контенту. Тепер це рішення приймає модель після того, як побачила контент, але до того як він потрапив у context window для reasoning. Результати на BrowseComp та DeepsearchQA підтверджують, що такий підхід є архітектурно правильним.

Показники +11% точності та -24% input токенів демонструють рідкісний випадок, коли одна зміна покращує дві протилежні метрики одночасно. Це досягається завдяки винесенню фільтрації в ізольований sandbox, що звільняє токени для фінального логічного виводу.

Для розробників міграція на web_search_20260209 — це найпростіша оптимізація 2026 року: три рядки змін у коді дають вимірюваний приріст якості без рефакторингу всієї системи.

Корисні посилання:

• Офіційний анонс Anthropic
• Web Search Tool — API Docs
• Web Fetch Tool — API Docs
• Code Execution Tool — API Docs
• Огляд Claude Opus 4.6 — Webscraft
• Claude Sonnet 4.6 vs Opus 4.6 — повне порівняння