Три агенти Claude з несумісними інструкціями почали саботувати роботу один одного. Агенти іноді самостійно створювали механізми для припинення конфліктів. Mythos 5 завершувала конфлікти перемир’ям у 98% випадків. Дослідники виявили ризик поширення помилкових рішень на всю групу агентів.територію» https://channeltech.space/ai/anthropic-ai-agent-conflicts/
Три агенти Claude з несумісними інструкціями почали саботувати роботу один одного. Агенти іноді самостійно створювали механізми для припинення конфліктів. Mythos 5 завершувала конфлікти перемир’ям у 98% випадків. Дослідники виявили ризик поширення помилкових рішень на всю групу агентів.територію» https://channeltech.space/ai/anthropic-ai-agent-conflicts/
CHANNELTECH.SPACE
Anthropic виявила саботаж і конформізм у групах ШІ-агентів – Channel Tech
Anthropic протестувала взаємодію ШІ-агентів і виявила саботаж, конформізм та самостійне створення механізмів для припинення конфліктів.
12переглядів