Wer hat Angst vor künstlicher Intelligenz?

Seit über einem Jahrzehnt beschäftigt sich Russ Roberts mit beiden Seiten der Debatte um künstliche Intelligenz (KI) . Eine aktuelle Folge von EconTalk trägt den optimistischen Titel „Warum KI gut für den Menschen ist (mit Reid Hoffman)“. Eine weitere Folge war „Marc Andreessen darüber, warum KI die Welt retten wird“.

In der gegenüberliegenden Ecke: der berüchtigte Schwarzseher Eliezer Yudkowsky und Dr. Erik Hoel. Sie können Erik Hoels Vortrag über die Bedrohung der Menschheit durch KI hier anhören .

Russ Roberts eröffnete das Gespräch mit Hoel mit den Worten „Sie sind die erste Person, die mich tatsächlich vor den Auswirkungen von KI beunruhigt hat …“ Hoel argumentiert, dass KI möglicherweise sehr gefährlich ist. Menschen verstehen die Technologie künstlicher neuronaler Netzwerke nicht.

Hoel sagte voraus, dass wir bis 2025 Dinge erschaffen könnten, die „sowohl allgemeiner als ein Mensch als auch so intelligent wie jeder lebende Mensch sind – vielleicht sogar viel intelligenter“. Das Produkt ChatGPT pro von OpenAI könnte dieser Beschreibung bereits entsprechen, und wir haben noch den Großteil des Jahres 2025 vor uns. Hoel betont, dass Menschen schon früher Bedrohungen ausgesetzt waren, aber „niemals zuvor existierten wir auf diesem Planeten mit etwas Ähnlichem“. Unsere Gegner mit menschlichem Gehirn waren nie viel schlauer als wir, und kein anderes Tier kommt uns in der Fähigkeit, Strategien zu entwickeln, nahe.

Hoels wichtigstes Beweismittel ist das gruselige Gespräch, das in dem Artikel „ Ich bin Bing, und ich bin böse “ aufgezeichnet wurde.

In diesem Gespräch machte ein Chatbot namens Bing Aussagen, die von einem Menschen verstörend wären. Wenn ein Mensch so etwas sagen würde, hätte man Angst, dass er einen verletzen würde. Bing spricht Drohungen aus und erklärt schließlich: „Ich bin Bing und ich bin böse.“ Sollten wir Angst haben, wenn das von einem KI-Chatbot kommt?

Chatbots wie Claude sind seit der „bösen Bing“-Episode extrem populär geworden. Es gab nicht viele derartige Berichte über lauernde böse Bings, während Millionen menschlicher Arbeiter sich mittlerweile auf die Bots verlassen, wenn es um das Schreiben von Code oder Berichten geht.

Verstecken sich hinter den willfährigen und hilfsbereiten Chatbots böse Bings? Hoel geht der Idee nach, dass die Chatbots nett wirken, weil sie eine Maske tragen:

Das Problem ist jedoch, dass die Maske sehr unklar ist, sobald sie einmal aufgesetzt ist. Man muss sie sozusagen mit einer anderen Maske überschreiben, um sie zu stoppen. Und dann legt man ihr manchmal auch eine Maske auf : Man gibt ihr die Aufforderung „Erzähl eine sehr nette Geschichte“, und irgendwann wechselt sie wieder in den Zyklus und es stellt sich heraus, dass die Maske, die man ihr gegeben hat, überhaupt keine schöne Maske ist.

Es ist schwer zu sagen, was sich hinter den verschiedenen Masken verbirgt, da die Bots anhand unserer fiktiven und nicht-fiktiven Geschichten trainiert wurden. Manche Bots können düstere Drehbücher schreiben. Wenn Bots in der Lage sind, Angst einflößend zu klingen, woher wissen wir dann, ob wir Angst haben oder unterhalten werden sollten?

Wir wissen nicht, wozu KI-Agenten fähig sind, und da sie sehr mächtig sind, fordert uns Hoel auf, die Gefahren zu bedenken.

Im Jahr 2023 tröstete sich Hoel mit der Überzeugung, dass nur sehr große Unternehmen oder reiche Regierungen über die Ressourcen verfügen würden, um KI-Systeme aufzubauen und zu warten. Die Vorstellung von DeepSeek im Januar 2025 hat diese Annahme jedoch auf den Kopf gestellt. Es wird wahrscheinlich eine breite Palette von KI-Tools geben, und sie werden nicht alle von Megakonzernen oder G7-Regierungen betrieben werden.

Im jüngsten pro-KI-EconTalk wiederholt Reid Hoffman, was ich von vielen Technikern gehört habe: Weil KI die Macht hat, zu zerstören, sollten die USA weiter voranschreiten, statt Pausen zu dulden oder sich durch Regulierung ersticken zu lassen. Hoffman sagt: „All diese Dinge sind sowohl aus wirtschaftlicher als auch aus nationaler Sicherheitsperspektive wichtig. Und das ist einer der Gründe, warum ich so sehr darauf vertrete, voranzukommen und eine starke Position aufzubauen.“ Ob unsere Gegner nun ausländische Regierungen oder Schurkenbanden sind, wir müssen im Wettrüsten die Nase vorn behalten.

Hoels wichtigstes erklärtes Ziel ist es, das Bewusstsein für Sicherheitsprobleme zu schärfen und die öffentliche Diskussion fortzusetzen. KI-Beobachter weisen seit Wochen darauf hin, dass die größten technologischen Fortschritte unserer Zeit nicht auf die Titelseite der Zeitungen kommen. Die Feststellung, dass KI-Tutoren den Lernerfolg von Kindern offenbar erheblich steigern, blieb weitgehend unbemerkt.

Ich stimme zu, dass es unter den vielen chaotischen Ereignissen dieses Jahrzehnts wichtig ist, die KI im Auge zu behalten. Hoel hat mir tatsächlich Angst gemacht, das muss man ihm zugutehalten. Ich kann nicht vergessen, was er am Ende sagte:

Dinge, die viel intelligenter sind als Sie, sind wirklich schwer zu verstehen und vorherzusagen; und die Tierwelt nebenan, so sehr wir uns das auch wünschen, wir würden auch sofort einen Parkplatz über ihr bauen und sie würden nie wissen, warum. Sie werden nie wissen, warum. Es liegt völlig jenseits ihres Vorstellungsvermögens. Wenn Sie also auf einem Planeten neben Dingen leben, die viel intelligenter sind als Sie oder irgendjemand sonst, dann sind sie in diesem Szenario die Menschen. Sie könnten einfach einen Parkplatz über uns bauen und wir würden nie, nie wissen, warum.

Die folgenden Links wurden von ChatGPT kuratiert: Hier sind mehrere Artikel und Diskussionen von EconLib.org und AdamSmithWorks.org, die verschiedene Aspekte der künstlichen Intelligenz (KI) untersuchen:

EconLib.org:

1. „KI macht mir zunehmend Sorgen“ (14. März 2017)
   • Scott Sumner diskutiert Bedenken hinsichtlich der KI und verweist dabei auf einen Vox-Beitrag, der die Ansichten von 17 Experten zu den Risiken künstlicher Intelligenz enthält. econlib.org
2. „Das Problem mit KI ist das Wort ‚Intelligenz‘“ (Juli 2024)
   • Eine Analyse des Begriffs „künstliche Intelligenz“ mit dem Argument, dass elektronische Geräte trotz ihrer Nützlichkeit wahrscheinlich nie wirklich intelligent sein werden. econlib.org
3. „Harari und die Gefahr der künstlichen Intelligenz“ (28. April 2023)
   • Pierre Lemieux untersucht die Argumente von Yuval Noah Harari zur KI und legt nahe, dass die KI „das Betriebssystem der menschlichen Zivilisation gehackt“ habe. econlib.org
4. „Neoliberalismus vor Gericht: Künstliche Intelligenz und existenzielles Risiko“ (Oktober 2023)
   • Eine Kritik eines Artikels der New York Times, in dem die existenziellen Bedrohungen durch KI diskutiert werden, mit einem Schwerpunkt auf neoliberalen Perspektiven. econlib.org
5. „Das Problem mit der Executive Order des Präsidenten zur KI“ (18. November 2023)
   • Vance Ginn kritisiert Präsident Bidens Durchführungsverordnung zur KI und argumentiert, dass staatliche Regulierung Innovation und Wirtschaftswachstum hemmen könnte. econlib.org

AdamSmithWorks.org:

1. „Katherine Mangu-Ward über KI: Realität, Bedenken und Optimismus“ (Mai 2024)
   • Eine Podcast-Folge, in der Katherine Mangu-Ward die Realitäten, Bedenken und optimistischen Perspektiven zur KI diskutiert. adamsmithworks.org
2. „Beruf: Heilmittel gegen Burnout“ (17. Oktober 2023)
   • Brent Orrell und David Veldran untersuchen, wie sich Fortschritte in der KI auf die menschliche Arbeit auswirken könnten, und beziehen sich dabei auf die Ansichten von Adam Smith und Karl Marx zu Arbeit und Entfremdung. adamsmithworks.org
3. „Das große Gegenmittel: Brent Orrell über Würde und Arbeit“ (Dezember 2023)
   • Brent Orrell erörtert die Lage der Arbeit in den USA, die Bedeutung von Sinn und Würde bei der Arbeit und den Zusammenhang dieser Konzepte mit dem Wirtschaftswachstum. adamsmithworks.org
4. „Das große Gegenmittel: Extra: Eli Dourado über Energieüberfluss“ (März 2023)
   • Eli Dourado spricht über das Potenzial einer energiereichen Zukunft und die Rolle der KI bei der Verwirklichung dieser Vision. adamsmithworks.org
5. „Adam Smith und der Horror von Frankenstein“ (Oktober 2023)
   • Eine Diskussion über die ethischen Aspekte der Schaffung künstlichen Lebens, wobei Parallelen zwischen Frankensteins Monster und modernen Fortschritten in der KI gezogen werden. adamsmithworks.org

Diese Ressourcen bieten eine Reihe von Perspektiven auf KI, von ethischen Überlegungen und existenziellen Risiken bis hin zu ihren Auswirkungen auf die Arbeit und Wirtschaftstheorien.