Das ist sicherlich kein neuer Gedanke. Aber für mich ist er in den letzten Tagen deutlich geworden.
Beim Experimentieren mit KI-Systemen habe ich unter anderem einige Fotos manipuliert. Unter anderem habe ich ein Foto von einem Weihnachtsbesuch des Weihnachtsmanns bei einer Bekannten sowie ein Foto von einem besonderen Abendessen mit Freunden erstellt.
Bei beiden Fotos habe ich den jeweiligen Personen das Ergebnis gezeigt. Sie haben einige Zeit gegrübelt, wann das gewesen sei. Sie fragten sich auch, ob ihr Gedächtnis sie trüge, da sie sich nicht wirklich daran erinnern konnten. Dann habe ich es aufgelöst.
Das zeigte mir mehrere Dinge ganz plastisch.
Wenn ich diese Technik gezielt einsetze, kann ich Menschen vielleicht ganz neue Erinnerungen geben. Ich kann Zweifel erzeugen – und Zweifel sind mächtig. Ich kann ihnen einreden, dass etwas passiert sei, das nie ganz so war. Natürlich kann ich niemandem einreden, er sei schon einmal in Grönland gewesen, wenn dem nicht so ist. Aber bei naheliegenden Dingen.
Was wäre, wenn ich meinen Nachkommen manipulierte Fotos hinterlasse, ohne dies zu kennzeichnen? Dann hinterlasse ich ihnen eine gefälschte Erinnerung über mich. Dann mag sogar der Besuch in Grönland („Schau mal, der Robert war sogar dort!”) plausibel erscheinen.
So können wir Menschen ein vollkommen gefälschtes Bild von uns vermitteln. Ich zeige, wie weit ich gereist bin, wen ich alles getroffen habe, wo ich gewohnt habe und was ich gegessen habe.
Damit kann ich meine Vergangenheit vollständig selbst bestimmen. Und für manche natürlich auch meine Gegenwart.
Und auf die Menschheit umgelegt. Was hinterlassen wir zukünftigen Generationen? Welche Wahrheiten werden sie noch über unser Leben entdecken können?
Ein seltsamer und erschreckender Gedanke.
„So können wir Menschen ein vollkommen gefälschtes Bild von uns vermitteln.“ Noch schlimmer ist es, dass ANDERE ein vollkommen gefälschtes Bild von uns vermitteln können!
Was ist dann noch „wahr“ vor Gericht, was können Menschen, die dir nicht wohlgesonnen sind, mit „dir“ anstellen?
Man sieht es ja exemplarisch gerade bei X von Elon Musk, wo Kinderbilder on the fly sexualisiert werden. Wie will das Kind später rechtfertigen, dass das alles nicht wahr ist?
BTW: wer jetzt noch einen Account bei X hat und nutzt, ist moralisch ganz unten angekommen.
Ich habe es nur mal aus meiner Perspektive betracht, was ich so tun könnte.
Aber du hast natürlich recht. Was andere mit unseren Gesichtern und Körpern tun können ist eigentlich gruselig. Wahrscheinlich kann man mit gewissen Methoden noch KI-Manipulationen erkennen. Aber wie lange noch bzw. mit welchem Aufwand?
Ein schöner Beitrag, der zum Nachdenken anregt ohne dabei mit dem Zeigefinger zu wedeln.
Danke. Nach Zeigefinger war mir gar nicht, weil ich nicht wüßte, wohin ich zeigen sollte. Der erste Schritt ist mal aufzeigen und sich bewusst werden.
Erinnerungen verfälschen hat aber schon vor KI recht gut funktioniert. #ElisabethLoftus KI wird sicher nicht schuld sein, wenn unsereins falsche Bilder hinterlässt. 🦌