KI rockt die Welt

Künstliche Intelligenz (KI) entsteht aus Softwareprogrammen, die lernfähig sind und sich daher selbst weiterentwickeln können. Sie ist – zumeist aber noch nicht unter voller Ausnutzung dieses Potentials („starke KI“) – bereits jetzt allgegenwärtig und wird vor allem dort eingesetzt, wo es um die Erkennung von Mustern oder die Auswertung großer Datenmengen geht, zB in der medizinischen Diagnostik (Vergleich konkreter Röntgen/CT-Bilder mit Millionen anderer), bei selbstfahrenden Autos, Chatbots, Sprachassistenten, dynamischer bzw personalisierter Preisgestaltung, Gesichtserkennung bei Smartphones uvm. Weitere oft erwähnte Beispiele aus jüngerer Zeit:

• Computerkunst: KI kann Musik komponieren, Gedichte schreiben und Bilder malen – kürzlich wurde ein von KI generiertes Porträt („Edmond de Belamy“) um USD 400.000,- versteigert; vgl auch nextrembrandt.com: ein Programm wurde mit Bildern von Rembrandt und den Charakteristika seiner Maltechnik trainiert und produzierte so ein Porträt, das von Experten als typischer für Rembrandt angesehen wird als seine eigenen Gemälde. 
• Digital Life Prediction: Durch Berücksichtigung einer Vielzahl an Faktoren und Abgleich mit ebensolchen von Millionen oder Milliarden anderer (verstorbener) Menschen kann eine relativ präzise Lebens- oder Ablebenserwartung prognostiziert werden, was zB in der Versicherungswirtschaft, bei Triagen und vielen anderen Fällen eine Rolle spielen kann (iZm mit dem Projekt „RESPECT“ in Kanada bereits im Einsatz).
• ChatGPT: Chatbot mit Dialogsystem, das auf Machine Learning beruht und nach Eingabe entsprechender Vorgaben („Prompts“) komplexe Texte generieren kann. 

Manche warnen vor solchen Anwendungen (zu ChatGPT s unten) oder ganz generell vor den Gefahren Künstlicher Intelligenz (zB Stephen Hawking, Elon Musk), weil es dadurch zu einer Machtübernahme gegenüber der Menschheit kommen könne (sog „Takeover“). Dies ist zwar theoretisch denkbar, weil Programme aus dem Internet den Schluss ziehen könnten, dass es oft besser war oder gewesen wäre, menschliche Befehle (nichts anderes sind Algorithmen, die in Programmen verwendet werden) nicht zu befolgen. Überdies kann das Internet infolge seiner dezentralen Kommunikationsarchitektur nicht „abgeschaltet“ werden, und durch das Internet of Things – bzw noch mehr durch zukünftige Quantencomputer, die nicht nur in binären 0/1-Kategorien, sondern mit sog QuBits auch überall „dazwischen“ agieren – kann sich diese Gefahr potenzieren. Dennoch ist dies eher abstrakt und kaum im Sinne einer totalen Übernahme, sondern nur partiell vorstellbar. Naheliegender sind andere Gefahren, etwa 

• Diskriminierungen, weil KI bestehende Tendenzen und Vorurteile übernimmt; vgl instruktiv zB das von KI generierte Video zu Michael Jacksons „Billie Jean“ (YouTube: „billie jean ai generated“), das iZm mit der Textzeile „mother always told me“ eine Frau mit Kind in der Küche zeigt. Da Unterhaltungsvideos vom Artificial Intelligence Act (AIA) nicht erfasst sein werden (s unten), muss solchen und ähnlichen Stereotypen durch entsprechende Programmierung und möglichst diverse Lernvorlagen begegnet werden. Sehr wohl vom AIA betroffen sind hingegen zB Fälle, bei denen es durch den Einsatz von KI zur Bekämpfung von Straftaten zu Diskriminierungen kommt – etwa wenn Angehörige bestimmter Staaten oder Personen mit bestimmter Hautfarbe statistisch häufiger strafbare Handlungen begehen.
• Verdrängung von Menschen, die sich va daraus ergeben wird, dass KI wesentlich günstiger und schneller arbeiten kann. Allerdings bringt die Entwicklung auch neue Berufsbilder mit sich, zB „KI-Flüsterer“, die KI so „zureden“ bzw sie durch entsprechende Eingaben so anwenden, dass sie optimal arbeitet.
• Letzteres ist auch deshalb wichtig, weil eine weitere Gefahr sich selbst weiterentwickelnder KI darin besteht, dass oft sogar ihre Entwickler (Programmierer) nicht wissen, wie sie zu bestimmten Ergebnissen gelangt  („Blackbox“), und dass sie oft Ergebnisse produziert, die nicht auf Fakten beruhen, sondern (weil die KI keine solchen gefunden hat) einfach von ihr „erfunden“ werden (idZ „Halluzinieren“ genannt, vgl dazu den aktuellen Fall eines Anwalts in New York, der ChatGPT beauftragte, einschlägige Präzedenzfälle zu finden, und diese sodann von ChatGPT "erfunden“ wurden). Solchen Risiken kann, vor allem, wo es um Gefahren für Freiheit, Leib oder Leben geht, durch die kontrollierende Einbettung von Menschen in entsprechende Entscheidungsprozesse begegnet werden („human in the loop“, s dazu unten).
• Auch in Bezug auf ChatGPT und ähnliche Programme wird vor diesen Gefahren, aber auch speziell vor Verwerfungen im Schul- und Bildungswesen gewarnt. Schüler oder Studierende würden Haus- oder Diplomarbeiten und Dissertationen nicht mehr selbst erstellen, sondern (wie kürzlich ein kolumbianischer Richter sein Urteil) von solchen Programmen verfassen lassen (vgl dazu auch die Ergebnisse der Verwendung von ChatGPT zur Erstellung von Hausarbeiten: https://zivilrecht.univie.ac.at/team/zankl-wolfgang/aktuelles/). Diesem Einwand kann freilich durch die Verwendung entsprechender Erkennungsprogramme und durch den Hinweis darauf begegnet werden, dass sich bisheriges Faktenwissen (das gegoogelt werden kann) zunehmend in Richtung Nutzungswissen entwickelt (wie, wo und wodurch macht man sich die Vorteile der Digitalisierung und speziell von KI am besten zu Nutzen – dies setzt aber iZm mit fachlichen Texten idR bereits ein gewisses Fachwissen voraus, mit dem zB auch KI-Fehler erkannt werden können). 

ao. Univ.-Prof. Dr. Wolfgang Zankl

ist Universitätsprofessor am Institut für Zivilrecht der Universität Wien (www.zankl.at), Gründer und Direktor des weltweiten Netzwerks für IT-Recht (www.e-center.eu), Entwickler und Leiter der ersten juristischen Crowd-Intelligence-Plattform (www.checkmycase.com) und Foundation Member der Computer Ethics Society Hong Kong.

Literatur zum Thema