- Uruguay's leftist icon Jose Mujica reveals 'compromising' tumor
- French actor Depardieu to be tried for sexual assault in October
- Gaza protesters defy Columbia deadline to leave campus
- Ecuador taking Mexico to court over asylum for ex-VP
- Salt, Chakravarthy help Kolkata hammer Delhi in heatwave-hit IPL
- Nadal keeps his clay dream alive as he battles past Cachin
- Kolkata hammer Delhi in heatwave-hit IPL
- US Supreme Court declines to hear Musk appeal over Tesla posts
- Mining giants Vale, BHP propose $25 bn settlement over Brazil dam collapse
- Indonesia wait for Olympic football goes on after Uzbekistan defeat
- Wembanyama in France: NBA Spurs to play Pacers in Paris in January
- Scotland's leader Yousaf quits after a year
- G7 reportedly agrees end date for coal-fired power plants
- French actor Depardieu held for questioning over alleged sexual assault
- German ex-soldier admits spying for Russia as trial opens
- Premier League clubs agree new spending cap - reports
- England rugby star Billy Vunipola convicted of assault in Mallorca
- Walrus dies from bird flu on Arctic island: researcher
- Hopes rise for possible Gaza truce deal
- Philips settles US sleep machine cases for $1.1 billion
- Togo votes in key parliament ballot after divisive reform
- Columbia on edge as talks collapse over Gaza protests
- India cricket fans defy heatwave warning for IPL clash
- France seeks clampdown on teen violence after boy's stabbing
- G7 eyes possible end date for coal-fired power plants
- US says still talking to Niger about army pullout
- 'It swept everything': Kenya villagers count toll of dam deluge
- Czechs expand rights for same-sex couples
- US stocks rise on tech outlook as yen rebounds
- Rubiales denies 'irregularities' in Spanish football corruption probe
- Jabeur wants 'more respect' for women after reaching Madrid quarters
- World Central Kitchen resuming Gaza work after 7 staff killed
- G7 to commit to reducing plastic production: French ministry
- Bayern ready for 'extraordinary' Bellingham, says Tuchel
- EU says Apple iPad operating system to face stricter rules
- Blinken says US almost ready with Saudi rewards for Israel normalisation
- Ake confident Man City can overhaul Arsenal in title race
- England rugby star Billy Vunipola fined after arrest in Mallorca
- Humza Yousaf: Scotland's short-lived leader
- Man Utd's Antony fuelled by critics amid difficult season
- Scotland's first minister Yousaf quits after a year
- Bangladesh again closes schools nationwide due to heatwave
- Yen swings after hitting new 34-year low; stocks mixed
- Tearful Thiago Silva to leave Chelsea at end of season
- Last chance for global pandemic agreement talks
- Dozens killed as dam bursts in flood-hit Kenya
- French actor Depardieu held for questioning over alleged sexual assault: source
- Filipino farmers struggle as drought and heatwave hits
- G7 urged to be 'bold' in climate hotspot Italy
- England rugby star Billy Vunipola arrested in Mallorca: reports
Ethikrat zu künstlicher Intelligenz: "Der Teufel steckt im Detail"
Software erstellt Diagnosen zu lebensbedrohlichen Krankheiten, sortiert Jobbewerber aus oder gibt Prognosen zur Straffälligkeit ab: Der Einsatz künstlicher Intelligenz (KI) bietet viele Chancen, birgt aber auch erhebliche Risiken. Der Ethikrat hat am Montag eine Stellungnahme zu der sich rasant entwickelnden Technik vorgestellt. Tenor: Maschinen dürfen den Menschen nie vollständig ersetzen. Konkrete Nutzungsvorgaben müssen aber je nach Einsatzbereich erstellt werden.
Grundsätzlich müsse künstliche Intelligenz "menschliche Entfaltung erweitern und darf sie nicht vermindern", sagte die Ethikrats-Vorsitzende, Alena Buyx, bei der Vorstellung der Stellungnahme. Es müsse darum gehen, "dieses unglaublich nützliche Werkzeug zu nutzen und die Nachteile einzuhegen".
Eine Arbeitsgruppe hatte die Stellungnahme mit dem Titel "Mensch und Maschine - Herausforderungen durch Künstliche Intelligenz" in den vergangenen beiden Jahren ausgearbeitet. Beispielhaft wird auf fast 290 Seiten auf vier Anwendungsbereiche eingegangen: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie Verwaltung.
Dies habe gezeigt, dass die Beurteilung von KI "immer kontext-, anwendungs- und personenspezifisch erfolgen muss", erklärte das Gremium. Denn das Delegieren an Maschinen könne "für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben", erläuterte die Sprecherin der Arbeitsgruppe, Judith Simon. "Der Teufel steckt im Detail und wir müssen genau hingucken."
Für den Medizinbereich richten sich Empfehlungen des Ethikrates unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten. Zudem müssten ärztliche Kompetenzverluste vermieden und die Privatsphäre von Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden.
"KI-Anwendungen, die nachweislich herkömmlichen Behandlungsmethoden überlegen sind, sollten allen einschlägigen Patientengruppen zur Verfügung stehen", sagte Buyx. Ein vollständiger Ersatz von Ärzten durch ein KI-System gefährde aber das Patientenwohl und sei auch nicht durch "akuten Personalmangel" zu rechtfertigen.
Der Einsatz von KI in der Schule sollte sich auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern, heißt es. So könnten intelligente Tutor-Systeme für Schüler "sehr hilfreich sein" und Lehrer entlasten, sagte Nida-Rümelin.
KI könne aber auch "zu einer Art Überwachungsregime führen": Systeme zur Videoüberwachung und Kontrolle von Klassen würden "eher kritisch gesehen". Die aktuelle Debatte um den komplexe Texte erzeugenden Chatbot ChatGPT, der auch die Frage aufwarf, ob Hausaufgaben von Schülern tatsächlich noch selbst geschrieben werden, streift die schon vor Monaten weitgehend fertiggestellte Stellungnahme nur kurz.
Im Bereich Kommunikation empfiehlt der Ethikrat die Weiterentwicklung der Regeln für Online-Plattformen zur Auswahl und Moderation von Inhalten sowie zu personalisierter Werbung und zum Datenhandel. Außerdem rät der Ethikrat, den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zu erwägen. Denn sonst bestehe die Gefahr, dass private Firmen wie Tech-Konzerne aus den USA in Europa über Standards etwa zum Blockieren von Inhalten entschieden, sagte Nida-Rümelin.
Für den KI-Einsatz in der Verwaltung rät der Ethikrat zu Ansätzen, die vor Diskriminierungen schützen und "dem blinden Befolgen maschineller Empfehlungen vorbeugen". Verwiesen wird etwa auf den in anderen europäischen Ländern schon üblichen Einsatz bei der Prüfung von Sozialleistungen. Wichtig sei, dass Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.
Die Stellungnahme diskutiert auch den hoch umstrittenen Einsatz von Systemen zur Verbrechensvorhersage. "Auch wenn eine Software vorhersagt, dass eine Person zu 99 Prozent straffällig wird, so können wir eben niemals wissen, ob die eine Person vor uns nicht genau dieses eine Prozent ist", sagte Simon zu der Problematik.
Die Stellungnahme sei "ein wichtiger Beitrag zur weiteren Debatte" über künstliche Intelligenz, erklärte Bildungsministerin Bettina Stark-Watzinger (FDP). Dies gelte auch "im Hinblick auf die Fortentwicklung der KI-Strategie der Bundesregierung."
Konkrete gesetzgeberische Empfehlungen macht die Stellungnahme nicht. Buyx verwies aber auf laufende Beratungen zu einem europäischen KI-Gesetz.
J.Horn--BTB