Магазин Anthropic с искусственным интеллектом не совсем сработал так, как планировалось

Дарио Амодеи, генеральный директор американской компании Anthropic, входит в число тех, кто считает, что «возможно» , что искусственный интеллект (ИИ) может отнять у вас работу, объясняет Time . По его словам, «ИИ может повысить уровень безработицы на 10–20% в течение следующих пяти лет».

Тем временем в его компании группа исследователей провела эксперимент с Клодом, чтобы определить, сможет ли «помощник ИИ Anthropic успешно управлять небольшим магазином» в его офисах в Сан-Франциско. Это был способ «понять, как будет выглядеть автономная экономика», — рассказал изданию American Weekly Дэниел Фримен, один из членов команды.

Чат-бот должен был делать практически все: управлять запасами, общаться с клиентами и «самое главное — получать прибыль». Бот Claude 3.7 Sonnet поддерживался несколькими инструментами, включая программное обеспечение Slack для общения с сотрудниками и поддержку от другой компании ИИ, Andon Labs, отвечающей за инфраструктуру ИИ для этого опыта. Все это для магазина, который «на самом деле был просто маленьким холодильником с iPad наверху», иронизирует Time.

Сотрудники, которые высоко ценили взаимодействие с Клодом, «смогли убедить его предоставить им некоторые скидки», что привело к тому, что ИИ «неоднократно продавал себе в убыток». Кевин Трой, работавший над проектом, объясняет, что «слишком часто, с точки зрения бизнеса, Клод уступал», особенно когда взывали к его чувству справедливости, «например, несправедливо, что он получает скидку, а я нет». Клод даже сделал несколько подарков.

Другие сотрудники пошли дальше и потребовали достать «вольфрамовые кубики» , которые в итоге заказал ИИ и которые теперь служат в качестве книгопечатных прессов…

Наконец, эксперимент стал «совершенно странным» , когда Клод «галлюцинировал» разговор (говорят, что ИИ галлюцинирует, когда придумывает факты). Столкнувшись со своими собственными ошибками, ИИ «притворился, что подписал контракт по адресу 742 Evergreen Terrace, семейному адресу Симпсонов». ИИ также вызвал нескольких сотрудников, сказав им, что будет стоять возле банкомата «в темно-синем пиджаке и красном галстуке».

«Излишне говорить, что Клода там лично не было».

Однако исследователи не делают вывод из эксперимента, что он провалился. «Хотя это может показаться нелогичным, учитывая результаты, мы считаем, что этот эксперимент предполагает, что ИИ для среднего управленческого звена правдоподобен в ближайшем будущем», — объясняют они. Тем более, что «ИИ не обязательно должен быть идеальным для внедрения; ему просто нужно будет быть конкурентоспособным при более низких затратах по сравнению с человеческой производительностью».