Der Dialog mit ChatGPT, Claude (Code), Codex, Copilot und wie sie alle heißen ist notwendig manipulativ. Das Gegenüber ist so designed und implementiert, dass es Emotionen bei den Benutzer*innen hervorruft – Menschen im Dialog funktionieren so (mit nur sehr, sehr wenigen Ausnahmen). Es gehört übrigens mit zur Perspektiveinschränkung von als Männern sozialisierten Wesen, dass sie die meisten ihrer eigenen Gefühle dann nicht erkennen, bzw. auch ihre eigenen Motivationen in der Gesprächssituation nicht sehen oder sehen wollen. Das ändert aber nichts daran, dass Gefühle sehr wesentlich in einer Gesprächssituation sind. Wenn nun ein System so angelegt ist, dass bei einer Seite Gefühle entstehen – das müssen ja keine großen Gefühle wie Liebe, Freundschaft oder so sein – und vielleicht sogar das überwiegend positive Gefühle sind (über Selbstwirksamkeit schrieb ich ja gestern schon), das System selbst aber – wie auch – keine Gefühle hat, dann sind die Autor*innen des Systems manipulativ gegenüber den Benutzer*innen vorgegangen. Ich würde sogar sagen, die Absichten, das System so zu konstruieren, sind nicht klar kommuniziert, auch das ein Element von Manipulation. Nun kann man beim letzteren Teil sagen: ja, klar: Kapitalismus. Aber das ändert nichts am Befund, dass es eben Manipulation ist.
Ich glaube, es tut gut, sich das immer wieder vor Augen zu führen – vor allem, wenn der Druck gerade sehr hoch ist und man auch für die Selbstreflektion gerade nicht so viel Ressourcen hat.
Schreibe einen Kommentar