Ki-schwindel: chrome-add-on simuliert menschliche fehler
Ein neuer Chrome-Add-on namens ‘Sinceerly’ hat die Tech-Welt in Aufruhr gebracht – und das aus gutem Grund. Es ist keine bahnbrechende Technologie, sondern eine subtile, aber potenziell gefährliche Täuschung: Das Add-on fügt absichtlich Rechtschreib- und Tippfehler in Texte ein, die mit künstlicher Intelligenz generiert wurden. Es ist, als würde man absichtlich einen grammatikalischen Fehler einbauen, um die Authentizität eines Textes zu simulieren.
Die perverse logik hinter ‘sinceerly’
Die Idee hinter ‘Sinceerly’ ist schlichtweg makaber. Der Investor Ben Horwitz erkannte, dass die Fehlerquote in den E-Mails von Führungskräften tendenziell steigt – ein Spiegelbild der zunehmenden Arbeitsbelastung und des Zeitdrucks. Horwitz nutzte dabei Claude Code, ein KI-Tool, um das Add-on in wenigen Minuten zu erstellen. Anschließend ließ er ‘Sinceerly’ ein E-Mail an die CEOs der 500 umsatzstärksten Unternehmen der Welt (das Fortune 500) verfassen. Das Ergebnis war erschreckend: Vier von fünf CEOs antworteten mit E-Mails von weniger als zehn Worten, zwei enthielten Tippfehler und eine kurze Rückmeldung kam von Larry, anstatt von Ben Horwitz selbst. Diese vermeintlichen ‘Menschlichkeitsfehler’ wurden dann in ‘Sinceerly’ integriert – ein makabres Experiment, das die Anfälligkeit von KI für Manipulationen aufzeigt.
Das Add-on bietet verschiedene Schwierigkeitsgrade, von ‘subtil’ bis ‘CEO-Level’. Der ‘CEO-Level’ ist besonders alarmierend: Hier werden die schlimmsten Fehler simuliert – wie das Weglassen von Großbuchstaben nach einem Punkt oder der Austausch der förmlichen Anrede ‘Sincerely’ durch ‘Sinceerly’. Es ist, als würde man eine formelle E-Mail durch eine unhöfliche ‘Du’ ersetzen – ein potenzielles Desaster in der Geschäftskommunikation. OpenAI wird derzeit von der Staatsanwaltschaft in Florida wegen eines “mehrfachen Vergehens” untersucht – eine Anspielung, die ChatGPT als eine Person behandeln würde, was zu einer Anklage wegen Mordes führen könnte, wenn es zur Täuschung eingesetzt würde.
Die grenzen der ki-fälschung
Obwohl ‘Sinceerly’ KI-Detektoren umgeht, ist es wichtig zu betonen, dass die Methode nicht funktioniert, wenn die KI selbst von einer anderen KI generiert wurde. Die Tools, die KI-generierte Texte erkennen, sind in der Lage, subtile Muster zu identifizieren, die durch die absichtliche Einfügung von Fehlern verschleiert werden. Daher ist die Anwendung von ‘Sinceerly’ auf akademische Arbeiten oder Berichte, die für den Einsatz von KI-Tools ungeeignet sind, fehl am Platz.
Fazit: ‘Sinceerly’ ist mehr als nur ein amüsantes Add-on. Es ist ein Spiegelbild der wachsenden Herausforderungen im Umgang mit KI – und ein Warnsignal vor den potenziellen Risiken der Täuschung. Es zeigt, dass die menschliche Note, die Fehler, die Unvollkommenheiten, oft der Schlüssel zur Glaubwürdigkeit sind. Die KI kann zwar beeindruckende Texte generieren, aber sie kann die menschliche Intuition und das Urteilsvermögen nicht ersetzen – zumindest noch nicht.