{
  "guid": "d05bfa58-e6b8-5c35-b271-191e1d09de6a",
  "id": 460,
  "date": "2024-12-28T12:00:00+01:00",
  "start": "12:00",
  "duration": "00:40",
  "room": "Saal ZIGZAG",
  "slug": "38c3-gemeinwohlorientierte-forschung-mit-ki-missbrauch-eindmmen-durch-zweckbindung-fr-ki-modelle",
  "url": "https://events.ccc.de/congress/2024/hub/de/event/gemeinwohlorientierte-forschung-mit-ki-missbrauch-eindmmen-durch-zweckbindung-fr-ki-modelle/",
  "title": "Gemeinwohlorientierte Forschung mit KI: Missbrauch eind\u00e4mmen durch Zweckbindung f\u00fcr KI-Modelle",
  "subtitle": null,
  "language": "de",
  "track": "Science",
  "type": "Talk",
  "abstract": "Trainierte KI-Modelle sind m\u00e4chtige Werkzeuge, die in Wissenschaft und Forschung oft f\u00fcr gute Zwecke gebaut werden. Aber wie alle Werkzeuge k\u00f6nnen sie auch zweckentfremdet werden \u2013 in Bereichen, f\u00fcr die sie nicht gedacht waren, in denen sie profitgierigen Interessen dienen und gesellschaftlichen Schaden anrichten. Vor dem Hintergrund des Trends von \"open source\" AI ist die Gefahr der unkontrollierten Zweckentfremdung von KI-Modellen enorm gestiegen. Wir zeigen: Das Risiko einer missbr\u00e4uchlichen Sekund\u00e4rnutzung von f\u00fcr Forschungszwecke trainierten KIs ist aktuell die gr\u00f6\u00dfte regulatorische L\u00fccke, trotz DSGVO und AI-Act. Zugleich erm\u00f6glicht das Zweckentfremden von Modellen die immer weiter wachsende Machtposition von Big Tech. Um das Problem zu bek\u00e4mpfen, muss das Prinzip \"Zweckbindung\" f\u00fcr das Zeitalter der KI geupdated werden.",
  "description": "Skandale wie die Weitergabe von Forschungsdaten der UK Biobank an Versicherungsunternehmen zeigen ein typisches, aber oft \u00fcbersehenes Risiko im Zusammenhang mit KI: Modelle und Trainingsdaten, die eigentlich dem Gemeinwohl dienen sollten, werden im Schatten der \u00f6ffentlichen Aufmerksamkeit, jedoch ohne geltendes Recht zu verletzen, f\u00fcr diskriminierende, manipulative und profitorientierte Zwecke zweitverwendet. Wer etwa in der medizinischen Forschung ein Modell zur Erkennung von psychischen Krankheiten anhand von Audiodaten (Stimmaufzeichnung) baut, kann dieses Modell auch au\u00dferhalb des medizinischen Kontexts auf beliebige Individuen anwenden \u2013 und zum Beispiel bei Video-Bewerbungsgespr\u00e4chen ein automatisiertes Risiko Scoring damit machen (unsere Beispiele zeigen, dass daran gerade gro\u00dfes Interesse besteht). Der Besitz trainierter KI-Modelle stellt eine enorme Konzentration von Informationsmacht dar \u2013 und mit dieser Macht geht ein Missbrauchspotenzial einher, wenn die Tools z.B. in einen kommerziellen Kontext \u00fcbertragen werden. \r\nZum Schutz unserer Gesellschaft vor Missbrauch KI-basierter Forschung m\u00fcssen wir deshalb die Zirkulation trainierter KI-Modelle und anonymisierter Trainingsdaten unter demokratische Kontrolle stellen. Wir brauchen ein Regulierungskonzept, das offene Forschungszwecke erm\u00f6glicht und gleichzeitig kommerziellen Missbrauch verhindert. Modelle mit allgemeinem Verwendungszweck wie sie die KI-VO legitimiert, sollte es nicht geben. Als L\u00f6sung holen wir das alte, bei der Industrie verhasste und in der Politik fast schon vergessene Datenschutzprinzip der Zweckbindung aus der Mottenkiste und aktualisieren es f\u00fcr die Kontrolle von KI. \r\nUnser Regulierungsvorschlag einer \"Zweckbindung f\u00fcr KI-Modelle\" beruht auf unserer mehrj\u00e4hrigen interdisziplin\u00e4ren Forschung zwischen Ethik, Rechtswissenschaft und Informatik.\r\n\r\nBackground Readings und weitere Infos: <a href=\"https://purposelimitation.ai\">https://purposelimitation.ai</a>",
  "logo": null,
  "persons": [
    {
      "guid": "0acfcce8-4b3a-531a-9868-33fd2dfb0585",
      "name": "Rainer M\u00fchlhoff",
      "public_name": "Rainer M\u00fchlhoff",
      "avatar": "https://fahrplan.events.ccc.de/congress/2024/fahrplan/media/avatars/rainer-neu-mod600-cropped2_EzEbuhi.jpg",
      "biography": null,
      "url": "https://events.ccc.de/congress/2024/hub/de/user/speaker_0acfcce8-4b3a-531a-9868-33fd2dfb0585/"
    },
    {
      "guid": "73a5e915-2213-5bc6-9e42-32fbfbf64f43",
      "name": "Hannah Ruschemeier",
      "public_name": "Hannah Ruschemeier",
      "avatar": null,
      "biography": null,
      "url": "https://events.ccc.de/congress/2024/hub/de/user/speaker_73a5e915-2213-5bc6-9e42-32fbfbf64f43/"
    }
  ],
  "links": [],
  "origin_url": "https://fahrplan.events.ccc.de/congress/2024/fahrplan/talk/MGSXPN/",
  "feedback_url": "https://fahrplan.events.ccc.de/congress/2024/fahrplan/talk/MGSXPN/feedback/"
}