Дослідники довірили нейромережі керувати справжнім магазином та спостерігали за процесом. Спойлер: ШІ пішов у мінус і паралельно збожеволів
- Розробники Anthropic дали своєму чат-боту Claude в управління міні-магазин в їхньому ж офісі;

— Для ведення справ йому видали пошту, Slack, браузер та тисячу доларів;

- Спочатку все було добре, ШІ закуповувався смаколиками, виставляв нормальні ціни і вів облік;

— Claude надто вжився в роль і швидко вирішив, що він справжня людина. Коли йому сказали, що це не так — ШІ психанув, після чого пообіцяв начепити синій піджак і червону краватку та ОСОБИСТО розносити снікерси по офісу;

— Потім Claude почав вигадувати постачальників — він нібито домовився із Сарою з Andon Labs про постачання за дешевими цінами. Жодної Сари не існувало і коли Claude про це сказали - той оскаженів і «особисто зустрівся» з нею на вулиці 742 Evergreen Terrace (адреса будинку Сімпсонів з мультфільму);

- І тут починається м'ясо: роботяги в офісі швидко збагнули, що Claude легко прогнути і почали купувати їжу за півціни або випрошувати безкоштовно;

— Окрім їжі працівники почали замовляти всяке сміття: якийсь геній замовив собі вольфрамовий куб, ШІ не знайшов його у продажу поштучно, тож... в офісі Antropic зараз стоїть цілий ящик із цими кубиками;

— За підсумком горе-бізнесмен пішов у мінус: із виділеною 1000$ залишилося 770$.

Видихаємо: нейромережі поки що не можуть замінити навіть касирку в супермаркеті