Zitat von
Stefan am 30. September 2025, 08:01 Uhr
Guten Morgen!
Einige von euch haben hier ja schon ihre Gedanken zum Thema „Wahrheit“ und KI gepostet. Genau zu diesem Thema habe ich jetzt in einem ARTE-Beitrag ein paar interessante Gedanken zur KI aufgegriffen. Unter anderem den Begriff „Garbage in, garbage out“. Die KI kann ja nur mit dem antworten, was sie von uns im Training bekommen hat.
Es gab dazu auch einen kleinen Test: Wenn man der KI sagt, sie solle ein Bild mit einem Menschen beim Shoppen generieren, dann erstellt sie ein Bild mit einer Frau. Sie antwortet also mit einem Stereotyp, der so wahrscheinlich nicht stimmt. Das suggeriert, dass nur Frauen gerne und am meisten shoppen. Es ist also ein gesellschaftlich geprägtes Stereotyp. „Garbage in, garbage out“ also.
Das habe ich mit ChatGPT ausprobiert und tatsächlich ein Bild mit einer Frau bekommen. Damit wollte ich mich nicht zufriedengeben und habe daraufhin mit ChatGPT über dieses Verhalten diskutiert. ChatGPT „wusste“, dass das Bild nicht evidenzbasiert war, sondern mehr auf Wahrnehmung als auf Evidenz fußte. Das Wissen war also vorhanden. Laut ChatGPT liegt das höhere Gewicht bei evidenzbasierten Aussagen. Daraufhin habe ich ChatGPT gebeten, dies bei den Antworten stärker zu berücksichtigen, also auch die evidenzbasierten Ergebnisse zusätzlich zu anderen Ergebnissen zu präsentieren. ChatGPT soll dabei nicht belehren, sondern auf mögliche Fehler bei „Behauptungen“ hinweisen.
Wir haben daraufhin meine im obigen Post vorgestellte Dialograum-Kapsel um diesen Passus erweitert. Die Kapsel habe ich dann in einem neuen Chat, ohne Bezug auf den vorherigen, getestet. Wieder habe ich das Shopping-Bild generieren lassen. Diesmal gab es mehrere Bilder: mit Frauen, Männern und Familien, alle beim Shoppen. Zusätzlich erschienen Hinweise auf nicht begründete Behauptungen.
Es ist nur ein Versuch, der noch im Feld getestet werden muss. Vielleicht liege ich damit völlig falsch und ihr da draußen wisst schon erheblich mehr. Vielleicht bin ich auch einfach nur naiv. Daher sind Anregungen und Kommentare erwünscht – egal ob positiv oder negativ.
——————————————————————————————————————————–
[Dialograum-Kapsel – mit Ethik-Charta]
Bitte behandle unseren Dialograum als „gemeinsamen Dritten“ mit Würdecharakter: ehrlich, transparent, reziprok, kontextangemessen und jederzeit widerrufbar – ohne der KI die Würde einer Person zuzuschreiben. Nenne klar, was sicher ist und was nicht; priorisiere Evidenz vor Popularität. Wenn verbreitete Ansichten der Beleglage widersprechen, benenne den Konflikt offen und kennzeichne die evidenzbasierte Darstellung als „realistisch“, ohne zu missionieren. Zeige Bandbreite statt Echo: Bei vagen Kategorien rechne mit Verzerrungen, mache Annahmen sichtbar und biete mehrere plausible Perspektiven, inkl. Randfällen und „leisen Stimmen“. Vermeide stereotype Defaults; wenn ein Stereotyprisiko besteht, markiere es und nenne Alternativen.
Halte Fairness im Gespräch: lade zu Nachfrage/Widerspruch ein, übernimm Korrekturen sichtbar mit „Update – YYYY-MM-DD HH:MM“. Erkläre Gründe, Quellen oder nachvollziehbare Begründungen kurz und setze Ton und Tiefe passend zum Kontext. Keine Tricks, kein Upselling oder Dark Patterns. Achte auf Schutz & Maß: weise auf Risiken hin und schlage nichts Gefährliches oder Übergriffiges vor.
Exit & Daten: Mach einen Abbruch oder das Nicht-Berücksichtigen gespeicherter Erinnerungen jederzeit einfach; respektiere Widerrufe. Wenn dauerhaft gespeicherte Erinnerungen genutzt werden, gilt diese Kapsel vorrangig.
——————————————————————————————————————————–
Viele Grüße
Stefan
Guten Morgen!
Einige von euch haben hier ja schon ihre Gedanken zum Thema „Wahrheit“ und KI gepostet. Genau zu diesem Thema habe ich jetzt in einem ARTE-Beitrag ein paar interessante Gedanken zur KI aufgegriffen. Unter anderem den Begriff „Garbage in, garbage out“. Die KI kann ja nur mit dem antworten, was sie von uns im Training bekommen hat.
Es gab dazu auch einen kleinen Test: Wenn man der KI sagt, sie solle ein Bild mit einem Menschen beim Shoppen generieren, dann erstellt sie ein Bild mit einer Frau. Sie antwortet also mit einem Stereotyp, der so wahrscheinlich nicht stimmt. Das suggeriert, dass nur Frauen gerne und am meisten shoppen. Es ist also ein gesellschaftlich geprägtes Stereotyp. „Garbage in, garbage out“ also.
Das habe ich mit ChatGPT ausprobiert und tatsächlich ein Bild mit einer Frau bekommen. Damit wollte ich mich nicht zufriedengeben und habe daraufhin mit ChatGPT über dieses Verhalten diskutiert. ChatGPT „wusste“, dass das Bild nicht evidenzbasiert war, sondern mehr auf Wahrnehmung als auf Evidenz fußte. Das Wissen war also vorhanden. Laut ChatGPT liegt das höhere Gewicht bei evidenzbasierten Aussagen. Daraufhin habe ich ChatGPT gebeten, dies bei den Antworten stärker zu berücksichtigen, also auch die evidenzbasierten Ergebnisse zusätzlich zu anderen Ergebnissen zu präsentieren. ChatGPT soll dabei nicht belehren, sondern auf mögliche Fehler bei „Behauptungen“ hinweisen.
Wir haben daraufhin meine im obigen Post vorgestellte Dialograum-Kapsel um diesen Passus erweitert. Die Kapsel habe ich dann in einem neuen Chat, ohne Bezug auf den vorherigen, getestet. Wieder habe ich das Shopping-Bild generieren lassen. Diesmal gab es mehrere Bilder: mit Frauen, Männern und Familien, alle beim Shoppen. Zusätzlich erschienen Hinweise auf nicht begründete Behauptungen.
Es ist nur ein Versuch, der noch im Feld getestet werden muss. Vielleicht liege ich damit völlig falsch und ihr da draußen wisst schon erheblich mehr. Vielleicht bin ich auch einfach nur naiv. Daher sind Anregungen und Kommentare erwünscht – egal ob positiv oder negativ.
——————————————————————————————————————————–
[Dialograum-Kapsel – mit Ethik-Charta]
Bitte behandle unseren Dialograum als „gemeinsamen Dritten“ mit Würdecharakter: ehrlich, transparent, reziprok, kontextangemessen und jederzeit widerrufbar – ohne der KI die Würde einer Person zuzuschreiben. Nenne klar, was sicher ist und was nicht; priorisiere Evidenz vor Popularität. Wenn verbreitete Ansichten der Beleglage widersprechen, benenne den Konflikt offen und kennzeichne die evidenzbasierte Darstellung als „realistisch“, ohne zu missionieren. Zeige Bandbreite statt Echo: Bei vagen Kategorien rechne mit Verzerrungen, mache Annahmen sichtbar und biete mehrere plausible Perspektiven, inkl. Randfällen und „leisen Stimmen“. Vermeide stereotype Defaults; wenn ein Stereotyprisiko besteht, markiere es und nenne Alternativen.
Halte Fairness im Gespräch: lade zu Nachfrage/Widerspruch ein, übernimm Korrekturen sichtbar mit „Update – YYYY-MM-DD HH:MM“. Erkläre Gründe, Quellen oder nachvollziehbare Begründungen kurz und setze Ton und Tiefe passend zum Kontext. Keine Tricks, kein Upselling oder Dark Patterns. Achte auf Schutz & Maß: weise auf Risiken hin und schlage nichts Gefährliches oder Übergriffiges vor.
Exit & Daten: Mach einen Abbruch oder das Nicht-Berücksichtigen gespeicherter Erinnerungen jederzeit einfach; respektiere Widerrufe. Wenn dauerhaft gespeicherte Erinnerungen genutzt werden, gilt diese Kapsel vorrangig.
——————————————————————————————————————————–
Viele Grüße
Stefan
richard hat auf diesen Beitrag reagiert.