Edward Tian, ein 22-jähriger Senior an der Princeton University, erstellte die GPTZero-App während seiner Winterpause. Die App soll auswerten, ob ein Text von dem beliebten Chatbot generiert wurde ChatGPT. Laut Tian kann die GPTZero-App schnell und effizient feststellen, ob ein Text von einem Menschen oder von ChatGPT geschrieben wurde, und sie wurde aufgrund von Bedenken hinsichtlich der unethischen Verwendung von ChatGPT in der Wissenschaft erstellt.
Edward Tian, ein Informatik-Student mit Nebenfach Journalismus, hat die GPTZero-App entwickelt, um dem entgegenzuwirken, was er als Zunahme von KI-Plagiaten ansieht. Er glaubt, dass Menschen es verdienen zu wissen, ob KI oder ein Mensch der Autor eines Textes ist, und dieser Wunsch führte ihn zur Entwicklung der App. In einem Tweet, der die GPTZero-App bewarb, schrieb er: „Es gibt so viel Hype um ChatGPT. Wird dies und das von KI geschrieben? Wir Menschen verdienen es zu wissen!“
Ich habe Silvester damit verbracht, GPTZero zu bauen – eine App, die schnell und effizient erkennen kann, ob ein Aufsatz von ChatGPT oder von Menschen geschrieben wurde
– Edward Tian (@edward_the6) 3. Januar 2023
Nach der Einführung von ChatGPT im November gab es Berichte von Studenten, die das Sprachmodell nutzten, um KI-generierte Aufgaben als ihre eigenen einzureichen. Mit der Entwicklung der GPTZero-App von Tian haben Lehrer jetzt ein neues Tool, mit dem sie feststellen können, ob die von Schülern eingereichten Aufsätze von ChatGPT geschrieben wurden. Am 2. Januar, als Tian die App zur Verfügung stellte, wandten sich andere Lehrer an ihn, um positives Feedback zu ihrer Leistung bei der Erkennung von KI-geschriebenen Aufsätzen zu geben.
GPTZero-App: Wie erkennt man ChatGPT-Schreiben?
Die GPTZero-App verwendet „Perplexity“ und „Burstiness“ als Indikatoren, um festzustellen, ob ein Text von einem Menschen oder einem Bot geschrieben wurde. Verwirrung ist ein Maß für die Textkomplexität. Wenn die GPTZero-App den Text für schwer verständlich hält, bedeutet dies, dass der Text komplexer ist und daher wahrscheinlich von einem Menschen geschrieben wurde. Wenn es leicht verständlich ist, wurde es höchstwahrscheinlich von KI generiert, da es mit ähnlichen Texten trainiert wurde. „Burstiness“ kontrastiert die verschiedenen Satzversionen und Menschen neigen dazu, schneller zu schreiben, was eine Mischung aus längeren und kürzeren Wörtern beinhalten kann, während KI-generierte Sätze typischerweise konsistenter sind.
Tian demonstrierte, wie die App zwischen von Menschen und KI verfassten Texten unterscheiden kann, indem sie in einem Video ihre Analyse eines New Yorker-Artikels und eines ChatGPT-Beitrags auf LinkedIn zeigte. Die App hat sich bei der Analyse bewährt. Innerhalb einer Woche nach ihrer Einführung wurde die GPTZero-App von mehr als 30.000 Benutzern verwendet und ihre Popularität führte zum Absturz der App. Streamlit, die Open-Source-Software, die die GPTZero-App ausführt, hat seitdem weitere Ressourcen bereitgestellt, um den hohen Datenverkehr auf der Website zu bewältigen, um Tian zu helfen.
hier ist eine kurze demo mit john mcphee’s "Bezugsrahmen" pic.twitter.com/WphxfxxFdr
– Edward Tian (@edward_the6) 3. Januar 2023
Edward Tian ist nicht der einzige, der gegen KI-Plagiate und Fälschungen kämpft. OpenAI, der Schöpfer von ChatGPT, hat ebenfalls sein Engagement gezeigt, eine solche böswillige Nutzung von KI zu stoppen. Laut Scott Aaronson, einem OpenAI-Forscher, der sich auf KI-Sicherheit spezialisiert hat, hat die Organisation eine Möglichkeit entwickelt, „unbemerkbare geheime Signale“ in GPT-generierten Text einzubetten, um seinen Ursprung zu verfolgen, was dem Konzept des „Wasserzeichens“ ähnelt. Dies hilft bei der Erkennung von KI-Plagiaten oder anderen böswilligen Verwendungen.
Die Open-Source-KI-Community Hugging Face hat ein Tool veröffentlicht, das feststellen kann, ob ein Text von GPT-2 generiert wurde, einer älteren Version des KI-Modells, das zum Erstellen von ChatGPT verwendet wurde. Ein Philosophieprofessor in South Carolina, der sich dieser Technik bewusst war, berichtete, dass sie damit einen Studenten entdeckten, der eine von KI erstellte Arbeit einreichte.
Edward Tian ist nicht gegen die Verwendung von ChatGPT und anderen KI-Technologien. Er glaubt, dass die GPTZero-App nicht dazu gedacht ist, die Verwendung dieser Technologien zu verhindern, sondern einen Weg zu bieten, sie verantwortungsbewusst anzunehmen und den notwendigen Schutz zu haben. Er will Transparenz in die KI bringen, die zu lange eine Black Box war. Er hat die App entwickelt, um Menschen einen Einblick zu geben, was menschliches Schreiben von KI-generiertem Schreiben unterscheidet, obwohl er versteht, dass die GPTZero-App nicht perfekt ist und immer noch daran arbeitet, ihre Präzision zu verbessern. Er betonte, sein vorrangiges Ziel sei es, KI transparenter zu machen.
Auch wenn es berechtigte Projekte gegen Plagiate gibt, integrieren einige große Player wie Microsoft ChatGPT in ihre Software!
Source: KI-Erkennung: Kann die GPTZero-App ChatGPT-Schreiben erkennen?
