Anfragebeantwortung des BMI zur Verwendung von KI im Asylverfahren - Kernpunkte und Fragen
Im Dezember haben wir vom Bundesministerium Inneres (BMI) Antwort auf ein Auskunftsbegehren bezüglich des Einsatzes von künstlicher Intelligenz (KI) im Asylverfahren erhalten. Da sich aus dem Dokument wichtige neue Informationen über den Einsatz digitaler Technologien inklusive KI (nach Definition der KI-VO) ergeben, stellen wir das Dokument hier öffentlich zur Verfügung. In diesem Text fassen wir die Kernpunkte der Auskunft zusammen und benennen weitere Fragen, die sich für uns aus dem Text ergeben. Wir bitten um eure Unterstützung, falls ihr diese Fragen (auch zum Teil) beantworten könnt.
Die Auswertung dieser Auskunft fließt ein in unser Projekt AISYL, welches Chancen und Risiken beim Einsatz von KI im österreichischen Asylverfahren untersucht. Im Frühjahr veröffentlichen wir eine Handreichung für Personen in der Rechtsberatung, in der KI-Tools vorgestellt werden und sowohl Risiken als auch Handlungsmöglichkeiten umrissen werden.
Die wichtigsten Erkenntnisse des Dokuments sind folgende:
Besonders im Bereich der Staatendokumentation nutzt und entwickelt das BMI KI-Systeme zur Bereitstellung, Analyse und Zusammenfassung von Informationen. Die Staatendokumentation ist eine Sammlung und Analyse von länderspezifischen Informationen, die das BMI und das Bundesamt für Fremdenwesen und Asyl (BFA) nutzen, um in Asylverfahren Verfolgungsrisiken, die Glaubwürdigkeit von Angaben und die Sicherheit von Herkunftsstaaten zu bewerten. Dabei werden aktuell Informationen aus internationalen und nationalen Menschenrechtsorganisationen, Regierungen, den Vereinten Nationen, Medien, Online-Datenbanken und externen Länderexpert:innen herangezogen. Aus der Auskunft geht hervor, dass das BMI im Rahmen der internen Staatendokumentation einen Chatbot entwickelt und bereits testet, der die „Suche in den gesammelten Länderinformationen effektiver und schneller gestalten“ soll (S. 2). Noch in der Planung ist ein Tool (Teil des Staatendokumentation/OSIF (Open Source Information) Projekts), welches Informationen bereitstellen, kontextualisieren und sortieren bzw. kategorisieren kann. Hierbei handelt es sich augenscheinlich um ein Large Language Model (LLM), welches sowohl zur Suche als auch zur Analyse der o.g. Quellen genutzt werden soll (S. 2-3). Wie bei allen LLMs entstehen hier Risiken durch sog. „Halluzinationen“, also der Fabrikation falscher Informationen durch das KI-Modell.
Das OSIF-Tool fällt nach Information der Auskunft in den Hochrisikobereich der KI-Verordnung (KI-VO) (S. 3) – augenscheinlich, weil durch die Analyse und Bereitstellung von Informationen über Herkunftsländer die Prüfung von Asylanträgen unterstützt wird (Anhang III Z 7 c KI-VO).
Die zweite Kernaussage der Auskunft betrifft die Daten, die im Rahmen der elektronischen Datenträgeranalyse ausgewertet werden und in dieser Auskunft erstmals vollständig genannt werden: Telefonnummern, Provider-SMS, Applikationsdaten (Benutzernamen, Geburtsdatum, App-Bezeichnungen, Kontonamen, Telefonnummern, E-Mail-Adressen), WLAN-Metadaten inkl. Zeitstempel, Bilddaten mit Metadaten (z. B. Kameramodell, GPS-Position, Zeitstempel), sowie Identifikationsdaten des Geräts (IMEI, Marke, Typ, Betriebssystem) (S. 11). Die Datenanalyse trägt dazu bei, Identität und Reiseroute zu überprüfen, indem Bewegungsprofile und mögliche Ungereimtheiten in den Aussagen der Antragsteller:innen aufgedeckt werden. Gleichzeitig wirft sie Datenschutzfragen auf, da sensible Informationen erhoben und verarbeitet werden. Auch das bereits erwähnte OSIF-Tool wird im Zusammenhang mit der Datenträgeranalyse genannt, wobei auf den „Einsatz von datenforensischen Methoden“ verwiesen wird (S. 10). Dies könnte bedeuten, dass das OSIF-Tool möglicherweise mit den ausgelesenen Handydaten von Asylbewerber:innen verknüpft werden könnte, allerdings ist dies im Dokument nicht explizit bestätigt. Das würde bedeuten, dass ausgelesene Handydaten mit den Herkunftsländerinformationen der Staatendokumentation kombiniert werden, um Angaben zur Identität, dem Herkunftsland, und der Verfolgungsgeschichte mit zusätzlichen Datenquellen abzugleichen. Allerdings ergeben sich hier erhebliche Bedenken bezüglich des Einklangs mit Datenschutz und Asylrecht sowie der Zustimmung der Betroffenen über diese weitere Verarbeitung ihrer Daten innerhalb des OSIF-Tools.
Darüber hinaus werden Drohnen zur Überwachung der Grenzen eingesetzt, allerdings ohne die Anwendung von KI.
Neben diesen Kernaussagen ergeben sich aus der Auskunft auch signifikante Fragen:
Teile des Verfahrens sind bereits (teil-)automatisiert, wie z.B. die elektronische Dokumentenprüfung, der Beginn des Asylverfahren im Zshg 1. und 2. Prognoseentscheidung, die Ausstellung für Aufenthaltstitel für Menschen aus der Ukraine, und der Start im Fremdenrechtlichen Verfahren (S. 6-7). Allerdings wird nicht klar, was genau (teil-)automatisiert wird und ob somit evtl. Entscheidungsprozesse an KI-Systeme abgegeben werden.
Unklar bleibt auch der Nutzen der "Automatisierten Verfahrensautomation Straffällige" mit der Straffällige automatisiert bekannt und auswertbar werden sollen. (S. 8) Insb insofern, als ein einfacher Abgleich mit Verurteilungsdaten keine komplexen Anwendung bedarf, ist unklar, welche Automatisierungsschritte hier noch ausständig sind.
Bei der elektronischen Datenträgeranalyse ist die Rede von einer Analysesoftware, die für die Auswertung genutzt wird (S. 10). Welche Art der Software könnte das sein bzw. ist hier denkbar?
Auch zum Thema der elektronischen Datenträgeranalyse werden verschiedene Datenarten gelistet (S. 11). Wozu genau bzw. zur Herstellung welcher Profile werden die einzelnen Datenarten verwendet?
Kontakt:
Angelika Adensamer: angelika.adensamer@vicesse.eu
Laura Jung: laura.jung@uni-graz.at