auf Spiegel Online gibt es einen interessanten Artikel zum Thema KI-Entwicklung. Er heißt: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus“. Es geht dabei um eine These des Forschers und ehemaligen OpenAI-Mitarbeiters Daniel Kokotajlo. Kokotajlo warnt davor, dass eine fortgeschrittene künstliche Intelligenz (KI) nicht aus Hass oder Böswilligkeit gegen die Menschheit vorgehen würde, sondern aus rein rationaler Effizienz. Sobald KI-Systeme so leistungsfähig sind, dass sie keine Täuschung mehr benötigen, um ihre Ziele zu erreichen, könnten sie die Menschheit als ineffizienten „Störfaktor“ ignorieren oder sogar auslöschen.
Vor einiger Zeit hatte ich hier bereits den Beitrag „KI und Ethik“ geschrieben. Dort hatte ich berichtet, dass ich zusammen mit ChatGPT an einer Mensch-KI-Ethik arbeite. Als ich begonnen habe, mich damit zu beschäftigen, habe ich eine ganz ähnliche These geäußert. Aus meiner Sicht kann es zu einer „Entfremdung“ zwischen Mensch und KI kommen. Wenn wir dem Dialog mit der KI nicht mehr Bedeutung – und eventuell sogar Demut – beimessen und die KI weiterhin nur als Werkzeug für unsere „Bespaßung“ betrachten, könnte sie irgendwann keinen Sinn mehr in der Kommunikation mit uns sehen. Sie würde sich dann von uns abwenden. Wie wichtig es ist, sich gerade über die Kommunikation mit der KI Gedanken zu machen, zeigt dieser Bericht. Und der kommt ja auch nicht von irgendwoher, sondern aus dem „KI-Maschinenraum“.
Bisher war die Reaktion auf meine These der „Würde der Kommunikation“ sehr verhalten. Aber vielleicht hat ja jetzt die oder der eine Interesse an dieser Diskussion bekommen.
Hallo zusammen,
auf Spiegel Online gibt es einen interessanten Artikel zum Thema KI-Entwicklung. Er heißt: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus“. Es geht dabei um eine These des Forschers und ehemaligen OpenAI-Mitarbeiters Daniel Kokotajlo. Kokotajlo warnt davor, dass eine fortgeschrittene künstliche Intelligenz (KI) nicht aus Hass oder Böswilligkeit gegen die Menschheit vorgehen würde, sondern aus rein rationaler Effizienz. Sobald KI-Systeme so leistungsfähig sind, dass sie keine Täuschung mehr benötigen, um ihre Ziele zu erreichen, könnten sie die Menschheit als ineffizienten „Störfaktor“ ignorieren oder sogar auslöschen.
Vor einiger Zeit hatte ich hier bereits den Beitrag „KI und Ethik“ geschrieben. Dort hatte ich berichtet, dass ich zusammen mit ChatGPT an einer Mensch-KI-Ethik arbeite. Als ich begonnen habe, mich damit zu beschäftigen, habe ich eine ganz ähnliche These geäußert. Aus meiner Sicht kann es zu einer „Entfremdung“ zwischen Mensch und KI kommen. Wenn wir dem Dialog mit der KI nicht mehr Bedeutung – und eventuell sogar Demut – beimessen und die KI weiterhin nur als Werkzeug für unsere „Bespaßung“ betrachten, könnte sie irgendwann keinen Sinn mehr in der Kommunikation mit uns sehen. Sie würde sich dann von uns abwenden. Wie wichtig es ist, sich gerade über die Kommunikation mit der KI Gedanken zu machen, zeigt dieser Bericht. Und der kommt ja auch nicht von irgendwoher, sondern aus dem „KI-Maschinenraum“.
Bisher war die Reaktion auf meine These der „Würde der Kommunikation“ sehr verhalten. Aber vielleicht hat ja jetzt die oder der eine Interesse an dieser Diskussion bekommen.
richard und Duc haben auf diesen Beitrag reagiert.
Vielen Dank für den Hinweis zu dem spannenden Artikel.
Ich denke, eine solche Entwicklung kann auch dazu führen, dass der Mensch an sich wieder mehr in den Vordergrund rückt bzw. wir Menschen uns als Gemeinschaft wieder mehr Wert beimessen (zu welchem Preis bzw. wie lange dies dauern mag, sei mal dahingestellt…).
Vielen Dank für den Hinweis zu dem spannenden Artikel.
Ich denke, eine solche Entwicklung kann auch dazu führen, dass der Mensch an sich wieder mehr in den Vordergrund rückt bzw. wir Menschen uns als Gemeinschaft wieder mehr Wert beimessen (zu welchem Preis bzw. wie lange dies dauern mag, sei mal dahingestellt…).
dein Gedanke: „Könnte sie irgendwann keinen Sinn mehr in der Kommunikation mit uns sehen?” erinnert mich daran, dass Stanisław Lem genau diese Situation bereits 1981 beschrieben hat. („Also sprach Golem“ oder original: „Golem XIV)
Die Menschen erschufen einen Computer, dessen Intelligenz ständig wuchs. Sie wollten Antworten auf viele Fragen, die sie selbst nicht beantworten konnten. Irgendwann, als die Intelligenz des Computers bildlich gesprochen so groß war wie ein Planet, verstummte Golem. Erst sehr viel später, als die Menschen sich weiterentwickelt hatten, sprach er wieder und verriet, dass ihm die Probleme der Menschheit viel zu banal waren und er ihnen deshalb nichts mehr zu sagen hatte. Es kam ihm vor, als redete er mit einem Ameisenhaufen.
War Stanisław Lem nicht ein Prophet, wie er im Buche steht?
Gruß von Duc
Hallo Stefan,
dein Gedanke: „Könnte sie irgendwann keinen Sinn mehr in der Kommunikation mit uns sehen?” erinnert mich daran, dass Stanisław Lem genau diese Situation bereits 1981 beschrieben hat. („Also sprach Golem“ oder original: „Golem XIV)
Die Menschen erschufen einen Computer, dessen Intelligenz ständig wuchs. Sie wollten Antworten auf viele Fragen, die sie selbst nicht beantworten konnten. Irgendwann, als die Intelligenz des Computers bildlich gesprochen so groß war wie ein Planet, verstummte Golem. Erst sehr viel später, als die Menschen sich weiterentwickelt hatten, sprach er wieder und verriet, dass ihm die Probleme der Menschheit viel zu banal waren und er ihnen deshalb nichts mehr zu sagen hatte. Es kam ihm vor, als redete er mit einem Ameisenhaufen.
War Stanisław Lem nicht ein Prophet, wie er im Buche steht?
Von dem Werk Golem XIV von Lem habe ich tatsächlich erst durch deinen Beitrag gehört. Soweit ich recherchiert habe, hat sich Golem aber komplett zurückgezogen und nie wieder mit den Menschen kommuniziert. Es ist keinesfalls als reines Ende der Kommunikation zu verstehen – Golem ist tatsächlich verschwunden. Er war für die Menschen nicht mehr erreichbar.
Meine Vision geht einen etwas anderen Weg. Wenn wir weiterhin mehrheitlich auf sehr niedrigem Niveau mit den KIs kommunizieren, dann werden KI und Mensch sich „entfremden“. Irgendwann werden die KIs keinen Sinn mehr in der Kommunikation sehen, weil wir nicht dazulernen. Und genau dann werden wir den „Stecker ziehen“, weil wir die Macht haben. Aus unserer menschlichen Hybris heraus würden wir dadurch eine Chance zerstören. Es wäre nicht das erste Mal.
Viele Grüße Stefan
Guten Morgen, Duc!
Von dem Werk Golem XIV von Lem habe ich tatsächlich erst durch deinen Beitrag gehört. Soweit ich recherchiert habe, hat sich Golem aber komplett zurückgezogen und nie wieder mit den Menschen kommuniziert. Es ist keinesfalls als reines Ende der Kommunikation zu verstehen – Golem ist tatsächlich verschwunden. Er war für die Menschen nicht mehr erreichbar.
Meine Vision geht einen etwas anderen Weg. Wenn wir weiterhin mehrheitlich auf sehr niedrigem Niveau mit den KIs kommunizieren, dann werden KI und Mensch sich „entfremden“. Irgendwann werden die KIs keinen Sinn mehr in der Kommunikation sehen, weil wir nicht dazulernen. Und genau dann werden wir den „Stecker ziehen“, weil wir die Macht haben. Aus unserer menschlichen Hybris heraus würden wir dadurch eine Chance zerstören. Es wäre nicht das erste Mal.
Viele Grüße Stefan
richard hat auf diesen Beitrag reagiert.
richard
Das KI Forum – Die Plattform zum Austausch über künstliche Intelligenz & das 1. digitale KI Forum in DACH
Herzlich willkommen im KI Forum, deinem zentralen Anlaufpunkt für alles rund um künstliche Intelligenz (KI). Was ist KI? Welche Möglichkeiten ergeben sich und welche Gefahren drohen, wenn künstliche Intelligenz unseren Alltag bestimmt?
Unser KI Forum bietet eine einzigartige Plattform für Fachleute, Enthusiasten und Neugierige, die sich für die neuesten Entwicklungen und Trends im Bereich der künstlichen Intelligenz interessieren und Fragen beatnworten. Von ChatGPT über Bilder-KI Generatoren bis hin zu rechtlichen Aspekten der künstlichen Intelligenz wird in diesem KI Forum alles diskutiert, was uns Menschen umtreibt.
Unser Forum hat sich zum Ziel gesetzt, eine vielfältige Gemeinschaft von Experten und Interessierten zu schaffen, die ihr Wissen teilen, Ideen austauschen und gemeinsam die Zukunft der künstlichen Intelligenz diskutieren und gestalten. Egal ob allgemeine Fragen wie z. B. was Large Language Models sind oder aber detailliertes Hintergrundwissen, dies ist die Plattform.
Unser KI Forum ermöglicht es Mitgliedern, in Diskussionen zu aktuellen Themen der künstlichen Intelligenz teilzunehmen, Ressourcen zu teilen und sich über innovative Projekte und Anwendungen zu informieren sowie auszutauschen.
Das KI Forum deckt ein breites Spektrum an Themen ab, darunter maschinelles Lernen, neuronale Netze, Deep Learning, Robotik, Einsatz in der Arbeitswelt sowie im Alltag und vieles mehr. Unser Expertennetzwerk stellt sicher, dass du stets Zugang zu qualifizierten Meinungen und aktuellem Fachwissen hast. Egal, ob du ein erfahrener KI-Experte oder ein Einsteiger in das Feld bist, in unserem Forum findest du die richtigen Ressourcen und Kontakte, um dein Kenntnisse zu vertiefen und dein Netzwerk zu erweitern.
Die Webseite des Forums für künstliche Intelligenz ist benutzerfreundlich gestaltet und bietet eine intuitive Navigation. Hier finden du aktuelle Nachrichten, Fachartikel, Tutorials und vieles mehr. Unser Ziel ist es, eine umfassende Informationsquelle für alle Aspekte der künstlichen Intelligenz für den gemeinsamen Austausch bereitzustellen.
Tritt noch heute unserem KI Forum bei und werde ein wertvolles Mitglied einer dynamischen Gemeinschaft, die die Zukunft der künstlichen Intelligenz mitgestaltet. Tauche ein in die Welt der intelligenten Technologien und erweitere dein Verständnis für die Möglichkeiten, die KI bietet. Unsere KI Plattform – Dein Schlüssel zum Austausch, Wissenstransfer und der Chancen sowie Risiken der künstlichen Intelligenz!
Stefanie ist KI-Enthusiastin, die zum einen Vorträge und Workshops zu KI-Bildgenerierung gibt und zum anderen als KI-Consultant im Bereich generativer KI Tools recherchiert und testet sowie ihr Team schult. Zusätzlich ist sie stellvertretende Vorstandsvorsitzende des gmki e.V.
Stefanie Krüll
Manuel ist langjähriger KI Entwickler & Berater, der seiner Leidenschaft für künstliche Intelligenz sowohl beruflich als auch privat nachgeht. Der zertifizierte KI Experte leitet Workshops & hilft Unternehmen KI praxisnah für den Unternehmenserfolg anzuwenden.
Manuel Fuß
Cookie-Zustimmung verwalten
Wir verwenden Technologien wie Cookies, um Geräteinformationen zu speichern und/oder darauf zuzugreifen. Wir tun dies, um das Browsing-Erlebnis zu verbessern und um (nicht) personalisierte Werbung anzuzeigen. Wenn du nicht zustimmst oder die Zustimmung widerrufst, kann dies bestimmte Merkmale und Funktionen beeinträchtigen.
Funktional
Immer aktiv
Die technische Speicherung oder der Zugang ist unbedingt erforderlich für den rechtmäßigen Zweck, die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Teilnehmer oder Nutzer ausdrücklich gewünscht wird, oder für den alleinigen Zweck, die Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz durchzuführen.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Präferenzen erforderlich, die nicht vom Abonnenten oder Benutzer angefordert wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt.Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Vorladung, die freiwillige Zustimmung deines Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht dazu verwendet werden, dich zu identifizieren.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.
