„Als ChatGPT im vergangenen Jahr die Bühne betrat, schrieb man seinen beeindruckend natürlich wirkenden Gesprächsstil darauf  zurück, dass der Bot mit einem Schatz aus Onlinedaten trainiert wurde. Aber die Sprache, die ChatGPT und seiner Konkurrenz zugrunde liegt, wird durch viele Runden menschlicher Anmerkungen gefiltert. Eine Gruppe von Click-Arbeitern verfasst Beispiele dafür, wie sich die Macher das Verhalten des Bots wünschen: Sie entwickeln dabei Fragen, gefolgt von den richtigen Antworten, und Beschreibungen von Computerprogrammen, gefolgt von funktionalem Code, aber auch Nachfragen für Tipps, wie man ein Verbrechen begehen könnte, gefolgt von höflichen Ablehnungen. Nachdem das Modell anhand dieser Beispielen trainiert wurde, kommen weitere Mitarbeiter mit ins Boot, um Fragen einzutippen und die Antworten zu bewerten. … Die Kriterien, die die Bewerter anlegen sollen, variieren dabei: Ehrlichkeit oder wie hilfreich eine Antwort ist, oder auch einfach persönliche Vorliebe. Der Punkt ist der, dass sie damit Daten zu menschlichen Vorlieben schaffen und wenn es davon erst einmal genug gibt, können die Macher ein zweites Modell schaffen, um deren Vorlieben flächendeckend nachzubilden. Dadurch wird der Bewertungsprozess automatisiert und ihre KI dahingehend trainiert, sich so zu verhalten, wie Menschen es begrüßen würden. Das Ergebnis ist ein bemerkenswert menschlich wirkender Bot, der die meisten schädlichen Anfragen ablehnt und sein KI-Wesen mit dem Anschein von Selbstwahrnehmung erklärt. Um es anders auszudrücken: ChatGPT scheint deshalb so menschlich, weil es von einer KI trainiert wurde, die Menschen nachstellt, die eine KI bewerten, die Menschen nachstellt, die vorgaben, eine bessere Version einer KI zu sein, die auf Grundlage von Menschen verfasster Texte trainiert wurde.“

Richard Parry, AI Is a Lot of Work, New York Magazine, 20.6.2023 (zitiert nach Perlentaucher Magazinrundschau, 27.6.2023)