СЕСІЙНА ПАМ’ЯТЬ ТА СТИСКАННЯ КОНТЕКСТУ ДЛЯ ГЕНЕРУВАННЯ ВІДПОВІДЕЙ У МЕСЕНДЖЕРАХ З НИЗЬКИМИ ЗАТРИМКАМИ

Автор(и)

DOI:

https://doi.org/10.31891/2219-9365-2026-87-6

Ключові слова:

великі мовні моделі, месенджери, сесійна пам'ять, стиснення контексту, гібридний пошук, повторне ранжування

Анотація

У роботі запропоновано швидку архітектуру для фактичної генерації відповідей у месенджерах — сесійна пам’ять із керованим стисканням, гібридний (BM25 + вектори) пошук із повторним ранжуванням та оптимізації інференсу. Експерименти на відкритих і анонімізованих діалогах показали збереження/покращення якості (nDCG@k, Recall@k, людські й автоматизовані оцінки), зниження затримки й внесок компонентів за результатами абляції.

##submission.downloads##

Опубліковано

10.09.2026

Як цитувати

МОЧЕРНЮК, Ю., & МОКРИЦЬКИЙ, А. (2026). СЕСІЙНА ПАМ’ЯТЬ ТА СТИСКАННЯ КОНТЕКСТУ ДЛЯ ГЕНЕРУВАННЯ ВІДПОВІДЕЙ У МЕСЕНДЖЕРАХ З НИЗЬКИМИ ЗАТРИМКАМИ. ВИМІРЮВАЛЬНА ТА ОБЧИСЛЮВАЛЬНА ТЕХНІКА В ТЕХНОЛОГІЧНИХ ПРОЦЕСАХ, (3), 53–60. https://doi.org/10.31891/2219-9365-2026-87-6

Номер

№ 3 (2026): ВИМІРЮВАЛЬНА ТА ОБЧИСЛЮВАЛЬНА ТЕХНІКА В ТЕХНОЛОГІЧНИХ ПРОЦЕСАХ

Розділ

Статті

Ліцензія

Авторське право (c) 2026 Мочернюк Юрій Миколайович, Мокрицький Андрій Анатолійович

Creative Commons License

Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.