Der KI-betriebene Shop von Anthropic funktionierte nicht ganz wie geplant

Dario Amodei, CEO des amerikanischen Unternehmens Anthropic, gehört zu denen, die es für „möglich“ halten, dass künstliche Intelligenz (KI) Arbeitsplätze übernehmen könnte, erklärt Time . Ihm zufolge „könnte KI die Arbeitslosenquote in den nächsten fünf Jahren auf 10 bis 20 % erhöhen.“

In seiner Firma führte ein Forscherteam unterdessen mit Claude ein Experiment durch, um herauszufinden, ob der KI-Assistent von Anthropic in der Lage wäre, einen kleinen Laden in den San Franciscoer Büros erfolgreich zu führen . Dies sei eine Möglichkeit, „zu verstehen, wie die autonome Wirtschaft aussehen würde“, sagte Daniel Freeman, eines der Teammitglieder, der amerikanischen Wochenzeitung.

Der Chatbot sollte praktisch alles können: Lagerbestände verwalten, mit Kunden kommunizieren und – am wichtigsten – Gewinn machen. Der Claude 3.7 Sonnet Bot wurde von einigen Tools unterstützt, darunter der Slack-Software für die Mitarbeiterkommunikation und von einem anderen KI-Unternehmen, Andon Labs, das für die KI-Infrastruktur des Erlebnisses verantwortlich war. Und das alles für einen Laden, der „eigentlich nur ein kleiner Kühlschrank mit einem iPad darauf war“, spottet Time.

Die Mitarbeiter schätzten die Interaktion mit Claude sehr und „konnten ihn davon überzeugen, ihnen Rabatte zu gewähren“, was dazu führte, dass die KI „immer wieder mit Verlust verkaufte“. Kevin Troy, der an dem Projekt mitwirkte, erklärt, dass „Claude aus geschäftlicher Sicht zu oft nachgab“, insbesondere wenn sein Gerechtigkeitssinn angesprochen wurde, „nach dem Motto: ‚Es ist nicht fair, dass er einen Rabatt bekommt und ich nicht.‘“ Claude machte sogar ein paar Geschenke.

Andere Mitarbeiter führten das Experiment weiter aus, indem sie die Beschaffung von „Wolframwürfeln“ forderten, die die KI schließlich bestellte und die nun als Buchpressen dienen …

Schließlich wurde das Experiment „geradezu bizarr“ , als Claude ein Gespräch „halluzinierte“ (eine KI halluziniert angeblich, wenn sie Fakten erfindet). Mit ihren eigenen Fehlern konfrontiert, gab die KI vor, einen Vertrag in der Evergreen Terrace 742, der Familienadresse der Simpsons, unterschrieben zu haben. Die KI rief außerdem einige Mitarbeiter herbei und teilte ihnen mit, sie würde in der Nähe des Geldautomaten stehen , „in einem marineblauen Blazer und einer roten Krawatte“.

„Es versteht sich von selbst, dass Claude nicht persönlich anwesend war.“

Die Forscher ziehen aus dem Experiment jedoch nicht den Schluss, dass es ein Misserfolg war. „Auch wenn es angesichts der Ergebnisse kontraintuitiv erscheinen mag, glauben wir, dass dieses Experiment darauf hindeutet, dass KI im mittleren Management in naher Zukunft plausibel ist“, erklären sie. Zumal „KI nicht perfekt sein muss, um sich durchzusetzen; sie muss lediglich wettbewerbsfähig und kostengünstiger als menschliche Leistung sein.“