Українська
English
У Codex знайшли системний промпт, що забороняє GPT-5.5 згадувати гоблінів, гремлінів та інших істот. Після виходу GPT-5.1 використання слова «гоблін» у ChatGPT зросло на 175%, «гремлін» — на 52%. Причина — нердівська особистість ChatGPT: маючи 2,5% відповідей, вона давала 66,7% усіх згадок гоблінів. Один механізм винагороди під час навчання з підкріпленням закріпив цю звичку і поширив її на інші частини моделі. https://channeltech.space/ai/chatgpt-goblin-obsession-reinforcement-l...
У Codex знайшли системний промпт, що забороняє GPT-5.5 згадувати гоблінів, гремлінів та інших істот. Після виходу GPT-5.1 використання слова «гоблін» у ChatGPT зросло на 175%, «гремлін» — на 52%. Причина — нердівська особистість ChatGPT: маючи 2,5% відповідей, вона давала 66,7% усіх згадок гоблінів. Один механізм винагороди під час навчання з підкріпленням закріпив цю звичку і поширив її на інші частини моделі. https://channeltech.space/ai/chatgpt-goblin-obsession-reinforcement-learning-bug/
248переглядів
1
Поширень
