{ "url": "https://fahrplan.events.ccc.de/congress/2024/fahrplan/talk/73Q3KX/", "id": 548, "guid": "4c63b6f7-0d8a-5c92-9223-ca3c2cf46b82", "date": "2024-12-29T11:00:00+01:00", "start": "11:00", "logo": null, "duration": "00:40", "room": "Saal ZIGZAG", "slug": "38c3-548-chatbots-im-schulunterricht-", "title": "Chatbots im Schulunterricht!?", "subtitle": "", "track": "Ethics, Society & Politics", "type": "Talk", "language": "de", "abstract": "Was k\u00f6nnen die Tools wirklich, was machen sie mit der \u201cBildung\u201d, und sollten wir daf\u00fcr Steuergelder ausgeben?\r\n\r\nSp\u00e4testens seit dem Hype um ChatGPT werden KI-Tools als magische Technofixes f\u00fcr Lehrkr\u00e4ftemangel und soziale Segregation im Bildungswesen angepriesen. Mehrere Bundesl\u00e4nder haben zum Beispiel Fl\u00e4chenlizenzen f\u00fcr alle Lehrkr\u00e4fte bei dem Hamburger Unternehmen \"Fobizz\" erworben. Das Unternehmen bietet auf Basis gro\u00dfer Sprachmodelle (meist GPT-3/4) und verschiedener bildgenerierender KIs eine ganze Reihe von Bots sowohl f\u00fcr Sch\u00fclerInnen als auch f\u00fcr LehrerInnen an: Tools zur automatisierten Korrektur und Bewertung von Hausaufgaben, Chatbot-basierte individuelle Lern-Coaches, Avatare zur Gespr\u00e4chssimulation (\"mit Angela Merkel chatten\"), oder Bots zur Erstellung von individualisiertem Unterrichtsmaterial.\r\nWir haben das Fobizz-Tool zur automatisierten Korrektur von Hausaufgaben und Pr\u00fcfungsleistungen detailliert unter die Lupe genommen. Funktioniert das wirklich? Wie wirkt sich das auf die Qualit\u00e4t des Unterrichts aus? Kann man LehrerInnen und Sch\u00fclerInnen guten Gewissens darauf loslassen? \u2013 Unsere Antwort ist schockierend eindeutig: nein! Und es ist ein Skandal, dass Steuergelder daf\u00fcr ausgegeben werden. Im Vortrag berichten wir von frustrierenden Irrfahrten wenn Sch\u00fclerInnen den Korrekturen des KI-Tools folgen; von quasi ausgew\u00fcrfelten Bewertungen (nach dem Motto: wenn dir die Note f\u00fcr diese Person nicht passt, dr\u00fcck einfach auf \"re-generate\"), und von der impliziten Botschaft an die Sch\u00fclerInnen: Ihr m\u00fcsst ChatGPT verwenden, sonst k\u00f6nnt ihr nicht gut abschneiden.", "description": "Im zweiten Teil unserer Studie haben wir systematisch mit LehrerInnen gesprochen und ihre Perspektive auf KI im Schulunterricht untersucht. Wir besprechen, wie dystopisch und fehlgeleitet es ist, die sozialpolitischen Probleme im Bildungswesen mit Techno-Tools zu l\u00f6sen. W\u00e4hrend in Gro\u00dfbritannien bereits \u201cteacher-free\u201d KI-Klassen als Pilotprojekt ins neue Schuljahr gestartet sind, scheint man in Deutschland zwar immer noch auf Lehrkr\u00e4fte im Klassenzimmer zu setzen \u2013 doch die Signale der Kultusministerien sind eindeutig: Lieber den Lehrkr\u00e4ftemangel mit den Services privater KI-Unternehmen fixen als echte politische Ma\u00dfnahmen durchzusetzen, die den Beruf ertr\u00e4glicher und attraktiver machen. Dass das Schulsystem \u00fcber KI-Tools noch weiter an private Unternehmensinteressen gebunden wird, hat unweigerlich steigende Ungleichheit und Intransparenz zur Folge. \r\nDa aktuell weitere Bundesl\u00e4nder an der Schwelle stehen, Lizenzvertr\u00e4ge mit KI-Unternehmen f\u00fcr Lerntools abzuschlie\u00dfen, steht mit diesem Thema einiges auf dem Spiel.\r\n\r\nUnsere Studie zur \"KI-Korrekturhilfe\" von Fobizz kann hier runtergeladen werden: https://doi.org/10.48550/arXiv.2412.06651", "recording_license": "", "do_not_record": false, "persons": [ { "guid": "0acfcce8-4b3a-531a-9868-33fd2dfb0585", "id": 317, "code": "U7VYJQ", "public_name": "Rainer M\u00fchlhoff", "avatar": "https://fahrplan.events.ccc.de/congress/2024/fahrplan/media/avatars/rainer-neu-mod600-cropped2_EzEbuhi.jpg", "biography": "Rainer M\u00fchlhoff, Philosoph und Mathematiker, ist Professor f\u00fcr Ethik der K\u00fcnstlichen Intelligenz an der Universit\u00e4t Osnabr\u00fcck. Er ist au\u00dferdem assoziierter Forscher am Einstein Center Digital Future, Berlin, und am Weizenbaum-Institut f\u00fcr die vernetzte Gesellschaft, Berlin. Er forscht zu Ethik, Datenschutz und kritischer Sozialtheorie in der digitalen Gesellschaft. Mit seinen systemischen Analysen von KI-Kapitalismus und seinen Vorschl\u00e4gen zur Sch\u00e4rfung des Datenschutzes bespielt er zahlreiche au\u00dferwissenschaftliche Transferformate und ist regelm\u00e4\u00dfiger Gast in Politik, Bildungsarbeit und \u00f6ffentlichen Foren. In seiner Forschung analysiert er KI-Systeme als soziotechnische Systeme (\"Human-Aided AI\"), hat den Begriff \"Predictive Privacy\" gepr\u00e4gt und tritt f\u00fcr eine Zweckbindung f\u00fcr KI-Modelle ein. \r\n\r\nIn seinem fr\u00fcheren Leben hat Rainer Mathematik/Physik/Informatik studiert und zu Quantenphysik gearbeitet. Durch ein Zweitstudium in Philosophie und Gender Studies ist er dann in den kritischen Geisteswissenschaften gelandet. Sein interdisziplin\u00e4res Team der Forschungsgruppe Ethics and Critical Theories of AI an der Uni Osnabr\u00fcck bringt Philosophie, Medienwissenschaft und Informatik zusammen, um das Wechselspiel von Technologie, Macht und gesellschaftlicher Ver\u00e4nderung zu untersuchen. [Publikationen]\r\n\r\nRainers Talk auf dem 37C3: KI \u2013 Macht \u2013 Ungleichheit", "answers": [] }, { "guid": "9dd3d280-bbfa-5fa2-9870-2046196329a8", "id": 583, "code": "78TDA9", "public_name": "Marte Henningsen", "avatar": "https://fahrplan.events.ccc.de/congress/2024/fahrplan/media/avatars/Polish_20241022_110637396_Eq7ZTIZ.jpg", "biography": "Marte Henningsen ist PhD Kandidatin in Philosophie (Schwerpunkt: kritische Technikphilosophie) an der Universit\u00e4t Maastricht. Sie hat zwei Bachelorabschl\u00fcsse in Computergest\u00fctzten Ingenieurwissenschaften und Informatik an der Leibniz Universit\u00e4t Hannover erworben, sowie einen Master in Kognitionswissenschaften an der Universit\u00e4t Osnabr\u00fcck. Ihre Spezialisierung liegt im Bereich Ethik der KI und Technikphilosophie. In ihrem PhD Projekt analysiert sie verschiedene KI Narrative unter Anwendung von Kritischen Theorien.\r\nAu\u00dferdem hat Marte einen stark aktivistisch gepr\u00e4gten Hintergrund, beispielsweise durch Engagement bei der Klimabewegung FFF sowie verschiedenster Hochschulgruppen in Hannover und Osnabr\u00fcck zu Themen wie Feminismus, globale Gerechtigkeit, und Arbeitsstreik. Dabei hat sie stets die Tools, die ihr aus dem technischen Studium zur Verf\u00fcgung standen, f\u00fcr ihre politische Arbeit genutzt. Beispielsweise indem sie Datenbanken baute, um auf die Geschlechterdisparit\u00e4ten innerhalb der verschiedenen Statusgruppen an den Fakult\u00e4ten der Universit\u00e4t aufmerksam zu machen.", "answers": [] } ], "links": [], "attachments": [] }