Gaggle

Selbstmord ist die zweihäufigste Todesursache unter den Zehn- bis 24-Jährigen in den USA. Doch mit dieser grausamen Tatsache nicht genug: Allein in 2017 gab es 345 Massaker mit Schusswaffen – häufiges Ziel: Schulen.

Gaggle, eine künstliche Intelligenz (KI), will dagegen angehen. Was Gaggle kann und was es für den Datenschutz bedeutet, lest ihr hier.

Selbstmorde und Amokläufe: Trauriger Alltag in den USA

Finanzielle Schwierigkeiten, Mobbing, Bewerbungen fürs College oder die Trennung der Eltern: Gründe gibt es viele, die Teenager aus der Bahn werfen und Suizidgedanken aufkommen lassen. 2016 waren es ganze 17 Prozent in den USA, die sich mit Selbstmordgedanken quälten, so das Ergebnis der US-Gesundheitsbehörde.

Ebenso düster sieht es im Hinblick auf Vorfälle mit Schusswaffen aus. Diese stehen in den USA an der Tagesordnung. Besonders sogenannte „School Shootings“ fordern viele Opfer und beunruhigen nicht nur Lehrer und Schüler.

Vielleicht denkt ihr euch jetzt: Warum werden bei diesen Zahlen nicht endlich die Waffengesetze in den USA abgeändert? Gute Frage. Aber der Dienstleister Gaggle hat eine Alternative gefunden, diesem Trend trotzdem entgegenzuwirken und eine technische Lösung entwickelt.

Die Selbstmordrate unter den 10- bis 24-Jährigen in den USA ist hoch. In einigen Highschools wird darum jetzt die KI Gaggle eingesetzt, die sämtliche Konversationen der Schüler überwacht. Bild: Unsplash/Christopher Campbell

Gaggle überwacht US-Schüler durch KI

Innerhalb der Schulen in den USA gehören die Google G Suite und Microsoft Office 365 zu den am weitesten verbreiteten Produktivitätspaketen in der Cloud. Um Selbstmord- und Amok-Absichten auszumachen, analysiert Gaggle den gesamten darin erzeugten Datenverkehr. Gleichzeitig bezieht es Nachrichten aus Twitter, Facebook, Instagram und anderen sozialen Netzwerken ein, die mit einer schulisch benutzen E-Mail-Adresse verknüpft sind.

Neben der KI setzt Gaggle auch auf menschliche Begutachter, die solche Inhalte sichten, die die KI im ersten Schritt als schädlich oder gefährlich eingestuft hat. Das alles soll potentiell tödliche Taten verhindern. Gleichzeitig soll Gaggle aber noch viel mehr: Teenager zu guten Bürgern erziehen.

Und wie beurteilt die KI, ob Gefahr droht? Mit Hilfe eines Filters. Dieser gleicht alle ihm zugänglichen Dokumente mit einer schwarzen Liste ab. Neben Ausdrücken mit Bezügen zu Selbstverletzungen, Gewalt, Mobbing oder Drogen, findet man dort auch vulgäre Ausdrücke.

Gaggle: Eine gute Idee?

Die Frage, ob Gaggle eine gute Idee ist, wird durchaus unterschiedlich beantwortet. Gaggle selbst sieht sein Konzept natürlich als vollen Erfolg. Das Unternehmen gibt an, dass ihre Erfindung allein im Schuljahr 2018/18 insegsamt 722 Schüler von einem Suizid abgehalten habe.

Doch auch wenn man diesen Zahlen Glauben schenken kann, ist doch einen Sache schwer von der Hand zu weisen: Gaggle greift in erheblichem Maße in die Privatsphäre der betroffenen Schüler ein.

Das Unternehmen stellt die Erkenntnisse der Kommunikationsüberwachung für die Administratoren an den Schulen in einem Dashboard zur Verfügung. Hierin kann der Administrator die Regelverletzung in Zusammenhang mit den Ausweisnummern einsehen. Die als auffällig geltenden Schüler werden in drei Risikogruppen aufgeteilt, die von hohem bis niedrigem Bedenken reichen. Privatsphäre? Fehlanzeige.

Gaggle verspricht Sicherheit in Echtzeit – alle Dokumente der Schüler in Google G Suite und Microsoft 365 werden permanent gescannt und bei Auffälligkeiten wird direkt Alarm geschlagen. Bild: Gaggle/Screenshot

Überwachung der Schüler auch in China

Die USA ist mit Gaggle nicht das einzige Land, das seine Schüler überwachen möchte. Auch China ist daran gelegen, den Lernerfolg der Schüler zu überwachen und auszuwerten – mittels einer Rundum-Überwachung.

Ein Blick ins Klassenzimmer verdeutlicht Chinas Konzept: Hier hängen intelligente Kameras, die das Schülerverhalten überwachen, kontrollieren und analysieren. Mit der KI können zum Beispiel die Lehrer am Ende ihrer Stunde auswerten, wie häufig der Schüler schläfrig oder gedanklich abwesend war, gelächelt, gelacht oder wütend geschaut hat. Das Ziel des Projekts ist es, die erste intelligente Schule zu bauen.

Aktuell ist das Projekt in der Oberschule Nummer Elf in Hangzhou noch ein Pilotprojekt. Doch die chinesische Regierung treibt die Forschung zur KI deutlich voran und scheut sich auch nicht, die Forschung in der Praxis zu testen.

Gaggle und Co.: Was ist eure Meinung?

Was ist eure Meinung zu Überwachungstools wie Gaggle und KIs im Klassenzimmer? Findet ihr, dass Gaggle eine sinnvolle Ergänzung ist? Würdet ihr das Tool unterstützen, wenn die Schule von euch selbst oder von euren Kindern betroffen wäre?

Ohne Frage: Die Gefahren im Internet für Kinder und Teenager sind zahlreich. Doch ist eine Überwachungssoftware der richtige Weg, um die Selbstmordrate zu senken und Amokläufe frühzeitig zu erkennen?

Letzten Endes sollten wir hier in Deutschland vor allem eins sein: erleichtert, dass wir nicht zu den über 1.400 Schulen in den USA gehören, die Gaggle einsetzen. Denn im Rahmen unseres Grundgesetzes gilt das allgemeine Persönlichkeitsrecht. Die Kommunikationswege, die von Gaggle überwacht werden, fallen unter das Fernmelde- bzw. Telekommunikationsgeheimnis. Der Staat darf dieses Geheimnis nur brechen, wenn berechtigte Hinweise vorliegen, dass das Wohl anderer gefährdet ist. Und das ist bei Gaggle, welches pauschal alles aufzeichnet und überwacht, ja wohl ganz klar nicht der Fall.