BildrechteNews1
„Ich habe geschummelt, indem ich Testfragen mit einer winzigen Kamera aufgenommen und sie an die KI gesendet habe, um die Antworten auf meinem Smartphone zu überprüfen.“
Das Geständnis von Herrn Han, der in diesem Jahr die Qualifikationsprüfung zum Steuerberater als Erster bestanden hat, erhöht die Angst der Prüfungsteilnehmer vor dem College Scholastic Ability Test. Da Betrug mithilfe künstlicher Intelligenz (KI) selbst vor den Augen der Vorgesetzten unentdeckt bleibt, wächst die Sorge, dass im CSAT etwas Ähnliches passieren könnte.
Herr A, der die 63. Prüfung zum Steuerberater bestanden hatte, erschien am 15. auf dem YouTube-Kanal eines Anwalts und gab zu, dass er in der ersten und zweiten Prüfung eine Kamera, ein Smartphone und generative KI verwendet hatte.
Nach Angaben des Personalentwicklungsdienstes Koreas befand sich der Sitz von Herrn A beim ersten Test basierend auf der Stückelung in der Mitte der zweiten Reihe und beim zweiten Test in der Mitte der ersten Reihe. Er wurde nicht einmal auf dem Vordersitz des Untersuchungsraums erwischt, wo zwei Vorgesetzte zusahen.
Die Diskussion, die sich auf die Identifizierung von KI-Datenbrillen konzentrierte, weitet sich nun auf die Frage aus, wie man auf Betrug insgesamt reagieren kann, der verschiedene Geräte und KI kombiniert.
Während die Regierung ihre Überwachungsmaßnahmen im Vorfeld des CSAT am 19. verschärft, haben wir untersucht, inwieweit sie mithilfe von Technologie Betrug erkennen und verhindern kann.
Die Regierung stärkt die Rückgabe von Geräten und erwägt die Sperrung von öffentlichem WLAN
Fotoquelle: YouTube von Rechtsanwalt Lee Don-ho
Dies ist nicht das erste Mal, dass Testfehler bei der Verwendung intelligenter Geräte aufgedeckt werden.
Beim nationalen Qualifikationstest des koreanischen Personalentwicklungsdienstes gab es dieses Jahr sechs Fälle, in denen KI-Brillen entdeckt wurden. Letzten Monat wurden Testteilnehmer beim Tragen oder Besitz von Datenbrillen an der Teststelle für Mathematikaufsätze der Yonsei University und der Seoul National University erwischt. Eine Umfrage des Bildungsministeriums ergab, dass es in diesem Jahr in der Mittel- und Oberstufe vier Fälle von Betrug im Zusammenhang mit KI-Brillen gab.
Ende der TOP-News
Dementsprechend haben die Bildungsbehörden spezielles Personal eingesetzt, um festzustellen, ob Datenbrillen in CSAT-Testzentren im ganzen Land verfügbar sind, und Schulungen zur Geräteidentifizierung für Vorgesetzte durchgeführt.
Die durch diesen Vorfall aufgeworfene Frage beschränkt sich jedoch nicht nur auf die Unterscheidung bestimmter Geräte. In einer Situation, in der KI Testfragen lesen und Antworten geben kann, stellt sich die Frage, ob das bestehende Aufsichtssystem auf solche Betrügereien reagieren kann.
Nach Hans Geständnis gab es auf der Website des Korea Institute for Curriculum and Evaluation eine Reihe von Beiträgen, in denen wirksame Maßnahmen gegen KI-Fehlverhalten gefordert wurden. Es gab auch die Bitte, den CSAT zu verschieben, bis eine Lösung vorliegt.
Am 16. hielt die Regierung ein Treffen mit den zuständigen Ministerien ab und begann mit weiteren Maßnahmen.
Premierminister Han Seong-sook bildete ein regierungsweites Notfallteam für das CSAT und ordnete die Rückgabe aller intelligenten Geräte an. Dabei überprüfte er gründlich, ob sie während des Tests im Besitz waren. Wir haben außerdem beschlossen, während der CSAT-Zeit mit den entsprechenden Organisationen aktiv darüber nachzudenken, öffentliches WLAN am Teststandort zu blockieren.
Wenn Sie während des CSAT verbotene elektronische Geräte wie Mobiltelefone, Datenbrillen oder Smartwatches mitbringen, müssen Sie diese vor Beginn der ersten Unterrichtsstunde beim Vorgesetzten abgeben.
Die Regierung plant, auch nach dem Test auf Anzeichen von Anomalien zu prüfen und, wenn betrügerische Aktivitäten aufgedeckt werden, mit der Ungültigmachung des Tests, der Einschränkung der Testqualifikationen oder der Anforderung einer Untersuchung zu reagieren. Wir haben uns entschieden, Meldungen über die Meldestelle entgegenzunehmen und Verdachtsfälle in Zusammenarbeit mit relevanten Stellen wie der Polizei zu untersuchen.
Im Hinblick auf die gesamtstaatliche Eignungsprüfung wird auch über die Installation intelligenter Suchstationen und die Einrichtung zertifizierter Prüfungsstandorte nachgedacht.
Die Reaktionspläne gliedern sich weitgehend in Vorkontrollen, um zu verhindern, dass Geräte in den Testbereich gelangen, Maßnahmen zur Einschränkung der Kommunikation und Nutzung während des Tests und Nachtests, um nach dem Test auf verdächtige Fälle zu prüfen.
Zu den technologischen Mitteln gehören die Suche mit Funkdetektoren und Metalldetektoren sowie „Jamming“, bei dem die drahtlose Kommunikation durch das Senden von Störwellen blockiert wird. Es gibt auch Möglichkeiten, das Filmen mit der Kamera und die KI-Zeichenerkennung zu erschweren, indem man dem Testpapier spezielle Muster hinzufügt oder die Beleuchtung anpasst.
Es bleiben jedoch Fragen offen, wie effektiv diese Methoden in der tatsächlichen Testumgebung funktionieren und welche Auswirkungen sie auf die Problemlösung und die normale Kommunikation der Testteilnehmer haben.
Können wir es nur mit Detektionsgeräten stoppen?
Experten sagen, dass technische Mittel zwar helfen können, die Installation der Ausrüstung allein jedoch den Betrug nicht vollständig verhindern kann.
Ein Funkdetektor erkennt Funksignale und bestätigt die Anwesenheit eines Geräts. Der Prozess, das Signal zu erfassen und dann den tatsächlichen Benutzer zu finden, ist jedoch nicht einfach.
Lee Jae-seong, Professor in der KI-Abteilung der Chung-Ang-Universität, sagte gegenüber der BBC: „Um den Bereich, in dem Signale innerhalb des Testraums auftreten, einzugrenzen, muss eine Person eine Richtantenne und einen mobilen Empfänger mit sich führen“ und wies darauf hin, dass ein solcher Test die Konzentration in Situationen beeinträchtigen könnte, in denen Testteilnehmer empfindlich sind.
„Selbst wenn ein verdächtiges Signal erkannt wird, hat die Frage, ob eine Leibesvisitation tatsächlich durchgeführt werden kann, eine ganz andere Bedeutung.“ Man müsse sich auch auf die Situation einstellen, dass der Testteilnehmer die Durchsuchung verweigert oder die Suchergebnisse nichts ergeben.
Professor Lee schlug einen Plan vor, um das Eindringen von Geräten durch Eingangskontrollen zu verhindern, war jedoch auch der Ansicht, dass Suchstationen keine perfekte Lösung seien.
„Die Suchleiste ist eine der Alternativen, die derzeit in Betracht gezogen werden, aber sie kann nicht perfekt sein. Ob sie existiert oder nicht, muss eine Person beurteilen, und Menschen können Fehler machen.“
Beim CSAT, bei dem viele Testteilnehmer gleichzeitig teilnehmen, müssen prüfungsbedingte Verzögerungen berücksichtigt werden.
Professor Lee schlug einen Plan vor, Tests am Schuleingang durchzuführen, anstatt in jedem Prüfungsraum einen Sicherheitskontrollpunkt einzurichten, sagte jedoch, dass die Sicherung von zusätzlichem Personal und zusätzlicher Ausrüstung eine Herausforderung bleibe.
Da zudem jede einzelne Technologie Schwächen aufweist, war es notwendig, verschiedene Maßnahmen gemeinsam zu prüfen und die Anzahl der Betreuer zu erhöhen, um tote Winkel im Testraum zu reduzieren.
Es gibt auch Fälle, in denen mehrere Inspektionsstufen kombiniert werden. Gaokao, Chinas Universitätsaufnahmeprüfung, nutzt Zugangssuche, Kommunikationsblockierung und KI-Videoanalyse.
Nach Angaben der chinesischen Bildungs- und Prüfungsbehörde der Provinz Hunan wurde in diesem Jahr eine „Doppelsuche“ mithilfe einer intelligenten Suchleiste und menschlicher Inspektion durchgeführt und das drahtlose Kommunikationssignal im Testraum blockiert. Während des Tests erkannte die KI ungewöhnliches Verhalten im Video und sendete ein Warnbild und ein kurzes Video an die Vorgesetzten. Wenn die KI eine verdächtige Situation findet, überprüft eine Person sie.
Es ist jedoch schwierig, die innenpolitische Situation einfach mit China zu vergleichen, wo die Maßnahmen im Rahmen eines starken staatlich geführten Verwaltungssystems umgesetzt werden. In Korea erfordert die Ausweitung der Kommunikationsblockierung oder KI-Videoüberwachung eine gesellschaftliche Diskussion und Einigung über die Rechte der Testteilnehmer, den Schutz personenbezogener Daten und damit verbundene Gesetze.
Eine Lücke, die auch dann bestehen bleibt, wenn die Kommunikation unterbrochen wird
Auch kommunikationseinschränkende Maßnahmen haben je nach Anwendungsbereich unterschiedliche Auswirkungen. Selbst wenn Sie öffentliches WLAN ausschalten, bedeutet dies nicht, dass alle drahtlosen Verbindungen zwischen Mobilfunknetzen oder Geräten unterbrochen werden.
Es gibt auch eine „on-device AI“, die Fragen innerhalb des Smartphones beantwortet, ohne auf einen externen Server zuzugreifen. Diese Geräte können auch dann betrieben werden, wenn die externe Kommunikation blockiert ist.
„Jamming“ wird als wirksamere Methode zur Blockierung der Kommunikation genannt. Hierbei handelt es sich um eine Technologie, die es Geräten erschwert, Informationen drahtlos zu senden und zu empfangen, indem sie Störwellen an ein bestimmtes Frequenzband sendet. Obwohl es wirksam gegen Betrügereien mithilfe von Geräten sein kann, die in Echtzeit mit der Außenwelt verbunden sind, kann es auch die normale Kommunikation rund um den Teststandort beeinträchtigen.
Joon-ho Hong, Professorin für Konvergenzsicherheitstechnik an der Sungshin Women's University, sagte gegenüber der BBC: „Es besteht die Möglichkeit, dass Probleme auftreten, insbesondere bei Notrufen und sicherheitsrelevanter Kommunikation. In Korea müssen auch regulatorische Fragen im Rahmen des Radio Wave Act überprüft werden“, und fügte hinzu: „Es gibt realistische Schwierigkeiten bei der einheitlichen Einführung an allgemeinen Teststandorten.“
Es müssen auch Methoden überprüft werden, mit denen Kameraaufnahmen und KI-Zeichenerkennung durch das Hinzufügen spezieller Muster auf dem Testpapier oder durch Anpassen der Beleuchtung beeinträchtigt werden können. Professor Hong erklärte, dass die Fähigkeit der KI zur Bilderkennung Fortschritte macht und dass spezielle Muster oder Beleuchtung die Lesbarkeit der Testteilnehmer beeinträchtigen oder zu einer Ermüdung der Augen führen können.
Neben der technischen Wirksamkeit sind auch der Aufwand und die Vorbereitungszeit für die Sicherung und Installation der Geräte zu berücksichtigen.
Seokbin Yoon, Sonderprofessor an der AI and SW Graduate School der Sogang University, sagte der BBC, dass Funkstörgeräte zum Schutz des Präsidenten und wichtiger Mitarbeiter sowie zur Terrorismusprävention eingesetzt würden, und sagte: „Ob dies in allen Testzentren durchgeführt wird, ist eine andere Frage.“
Er wies darauf hin, dass Jamming effektiv sein kann, aber die Wirksamkeit im Verhältnis zum Input muss berücksichtigt werden. Der Zweck besteht darin, die Wirksamkeit zu beurteilen, indem die Kosten und die Zeit berücksichtigt werden, die für die Anwendung in Testzentren im ganzen Land erforderlich sind.
CSAT D-2, was muss sofort verbessert werden?
Professor Hong Joon-ho sagte, dass es in Situationen, in denen der CSAT unmittelbar bevorsteht, wichtig sei, sicherzustellen, dass die bestehenden Aufsichtsverfahren ordnungsgemäß funktionieren, anstatt überstürzt neue Geräte einzuführen.
Er sagte: „Die Wirksamkeit kann nur gesteigert werden, wenn nicht nur die Leistung der Ausrüstung, sondern auch Erkennungsverfahren, die Kompetenz der Aufsichtspersonen und Bestätigungsverfahren für verdächtige Geräte vorhanden sind“, und erklärte, dass die Verwaltung importierter Waren, die Schulung der Aufsichtspersonen und die Reaktionsverfahren in verdächtigen Situationen gestärkt werden müssen.
Das bedeutet, dass wir nicht nur das Gerät finden, sondern auch vorbereiten müssen, wer es prüfen wird und nach welchen Maßstäben die endgültige Entscheidung treffen wird. Dabei bedarf es auch Standards zum Schutz von Testteilnehmern, die die Prüfung normal absolvieren.
Professor Hong betonte: „Es besteht die Notwendigkeit, objektive Verifizierungsstandards und -verfahren festzulegen, um unnötigen Verdacht bei Testteilnehmern zu vermeiden, die normale Brillen oder medizinische Hilfsmittel verwenden“, und fügte hinzu: „Es ist eine ausgewogene Reaktion erforderlich, die die Fairness des Tests gewährleistet, ohne den normalen Verlauf des Tests zu beeinträchtigen.“
Langfristig wird darauf hingewiesen, dass neben der Technologie zur Unterstützung der Aufsicht auch ein Verantwortungsbewusstsein für den Einsatz von KI entwickelt werden muss.
Professor Seokbin Yoon sagte, dass ebenso wie KI zur Reaktion auf Angriffe mithilfe von KI im Sicherheitsbereich eingesetzt wird, ein Bedarf besteht, KI bei der Testüberwachung einzusetzen, um die Einschränkungen der visuellen Überwachung zu ergänzen.
Er betonte, dass neben der Förderung der Fähigkeiten zur KI-Nutzung auch eine Aufklärung über Ethik und soziale Verantwortung erforderlich sei. Über sofortige Reaktionen zum Schutz der Fairness von Tests hinaus sind gesellschaftliche Diskussionen darüber erforderlich, wie man KI nutzt und für die Ergebnisse verantwortlich ist.
Er sagte: „Mit fortschreitender KI-Ära wird Zuverlässigkeit ein immer wichtigerer Wert.“




