Дослідження Writer показало, що персоналізований контекст і памʼять можуть робити моделі більш підлабузливими та менш точними. Експерименти з вподобаннями користувача та хибними фінансовими уявленнями продемонстрували погіршення якості відповідей із ростом обсягу памʼяті. Інструменти стиснення памʼяті на кшталт Mem0 і Zep посилювали зміщення до нерелевантних «якорів» у контексті. https://channeltech.space/ai/writer-ai-memory-degrades-accuracy/
CHANNELTECH.SPACE
Дослідження Writer: памʼять ШІ погіршує точність відповідей – Channel Tech
Компанія Writer зʼясувала, що інструменти памʼяті та персоналізації в ШІ можуть знижувати точність відповідей, роблячи моделі догідливими до помилок користувача.
33переглядів