Vom Labor ins Leben: Künstliche Intelligenz und ihre Folgen

Anbieter zum Thema

MPDV Mikrolab GmbH

AMD Advanced Micro Devices GmbH

invenio Virtual Technologies GmbH

Der Bericht eines internationalen Expertengremiums sieht die Künstliche Intelligenz (KI) an einem kritischen Wendepunkt angelangt. Fortschritte in den Bereichen Sprachverarbeitung, Computervision und Mustererkennung bedeuten, dass die KI in den Alltag eindringt. Daher gelte es, ihre möglichen negativen Auswirkungen zu verstehen.

• Künstliche Intelligenz habe einen kritischen Wendepunkt in ihrer Entwicklung erreicht, so ein neuer Bericht eines internationalen Expertengremiums, das den Stand der Dinge in diesem Bereich bewertet.

• Der Bericht kommt zu dem Schluss, dass die künstliche Intelligenz in den letzten Jahren einen großen Sprung aus dem Labor in das Leben der Menschen gemacht habe.

• Daher gelte es, ihre möglichen negativen Auswirkungen zu verstehen.

Fortschritte in den Bereichen Sprachverarbeitung, Computervision und Mustererkennung bedeuten, dass die künstliche Intelligenz in den Alltag eindringt -- von der Hilfe bei der Filmauswahl bis hin zur Unterstützung bei medizinischen Diagnosen. Mit diesem Erfolg wächst jedoch auch die Dringlichkeit, die Risiken und Nachteile von KI-gesteuerten Systemen zu verstehen und abzumildern, wie zum Beispiel die algorithmische Diskriminierung oder die Verwendung von KI zur absichtlichen Täuschung. Informatiker müssen mit Experten aus den Sozial- und Rechtswissenschaften zusammenarbeiten, um sicherzustellen, dass die Fallstricke der KI minimiert werden.

Neue Technologien und ihre Folgen für die Gesellschaft

Diese Schlussfolgerungen stammen aus einem Bericht mit dem Titel "Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100) 2021 Study Panel Report", der von einem Gremium von Experten aus den Bereichen Informatik, öffentliche Ordnung, Psychologie, Soziologie und anderen Disziplinen erstellt wurde. AI100 ist ein laufendes Projekt des Stanford University Institute for Human-Centered Artificial Intelligence, das die Fortschritte der künstlichen Intelligenz überwachen und ihre künftige Entwicklung steuern soll. Dieser neue Bericht, der zweite im Rahmen des AI100-Projekts, bewertet die Entwicklungen der KI zwischen 2016 und 2021.

"In den letzten fünf Jahren hat KI den Sprung von etwas, das hauptsächlich in Forschungslabors oder anderen hochgradig kontrollierten Umgebungen stattfindet, zu etwas geschafft, das das Leben der Menschen in der Gesellschaft beeinflusst", sagte Michael Littman, Professor für Informatik an der Brown University, der den Vorsitz des Berichtsgremiums führte. "Das ist wirklich aufregend. Denn diese Technologie ermöglicht einige erstaunliche Dinge, von denen wir vor fünf oder zehn Jahren nur träumen konnten. Aber gleichzeitig setzt sich das Fachgebiet mit den gesellschaftlichen Auswirkungen dieser Technologie auseinander, und ich denke, die nächste Herausforderung besteht darin, darüber nachzudenken, wie wir die Vorteile der KI nutzen und gleichzeitig die Risiken minimieren können."

Bericht nimmt kritische Bereiche der künstlichen Intelligenz unter die Lupe

Der Bericht, der am Donnerstag, den 16. September, veröffentlicht wurde, beantwortet 14 Fragen, die kritische Bereiche der KI-Entwicklung untersuchen. Die Fragen wurden vom ständigen AI100-Ausschuss entwickelt, der sich aus einer renommierten Gruppe von KI-Führungskräften zusammensetzt. Der Ausschuss stellte dann ein Gremium von 17 Forschern und Experten zusammen, um sie zu beantworten. Die Fragen lauten: "Was sind die wichtigsten Fortschritte in der KI?" und "Was sind die spannendsten offenen großen Herausforderungen?" Weitere Fragen betreffen die größten Gefahren der KI, ihre Folgen für die Gesellschaft, ihre öffentliche Wahrnehmung und ihre Zukunft.

Was sich in den letzten fünf Jahren verändert hat

"Während in den letzten Jahren viele Berichte über die Auswirkungen der KI verfasst wurden, sind die AI100-Berichte insofern einzigartig, als sie von KI-Insidern verfasst wurden -- Experten, die KI-Algorithmen entwickeln oder deren Einfluss auf die Gesellschaft im Rahmen ihrer Haupttätigkeit erforschen - und dass sie Teil einer fortlaufenden Längsschnittstudie sind, die sich über ein ganzes Jahrhundert erstreckt", sagte Peter Stone, Professor für Informatik an der University of Texas in Austin, Geschäftsführer von Sony AI America und Vorsitzender des ständigen AI100-Ausschusses. "Der Bericht 2021 ist für diesen Längsschnittaspekt der AI100 von entscheidender Bedeutung. Denn er knüpft eng an den Bericht von 2016 an, indem er kommentiert, was sich in den dazwischen liegenden fünf Jahren verändert hat. Er bietet auch eine wunderbare Vorlage für künftige Studienpanels. So beantwortet er eine Reihe von Fragen, von denen wir erwarten, dass künftige Studienpanels sie im Abstand von fünf Jahren neu bewerten."

Eric Horvitz, Chief Scientific Officer bei Microsoft und Mitbegründer der One Hundred Year Study on AI, lobt die Arbeit des Studienpanels. "Ich bin beeindruckt von den Erkenntnissen, die das vielfältige Gremium von KI-Experten in diesem Meilenstein-Bericht geteilt hat", sagte Horvitz. "Der Bericht für das Jahr 2021 beschreibt in hervorragend, wo KI heute steht und wohin sich die Dinge entwickeln. Das betrifft auch eine Bewertung der Grenzen unseres derzeitigen Verständnisses und eine Anleitung zu den wichtigsten Chancen und Herausforderungen, die sich aus dem Einfluss von KI auf Mensch und Gesellschaft ergeben."

Fortschritte durch künstliche Intelligenz

Das Gremium stellte erhebliche Fortschritte in allen Teilbereichen der KI fest, darunter Sprachverarbeitung, Computer Vision und andere Bereiche. Ein Großteil dieser Veränderungen ergibt sich aus den Fortschritten bei den Techniken des maschinellen Lernens. Besonders die Deep-Learning-Systeme haben in den letzten Jahren den Sprung aus dem akademischen Umfeld in alltägliche Anwendungen geschafft.

Bei der Verarbeitung natürlicher Sprache zum Beispiel können KI-gesteuerte Systeme heute nicht nur Wörter zu erkennen. Sie verstehen vielmehr auch, wie diese grammatikalisch zu verwenden sind und wie sich die Bedeutung in verschiedenen Kontexten ändern kann. Dies hat eine bessere Websuche, prädiktive Textanwendungen, Chatbots und vieles mehr ermöglicht. Einige dieser Systeme können mittlerweile Originaltexte erstellen, die nur schwer von von Menschen verfassten Texten zu unterscheiden sind.

Vieles ist selbstverständlich geworden

An anderer Stelle diagnostizieren KI-Systeme Krebs und andere Krankheiten so genau, dass sie es mit ausgebildeten Pathologen aufnehmen könnten. Forschungstechniken, die KI nutzen, haben neue Erkenntnisse über das menschliche Genom hervorgebracht und die Entdeckung neuer Arzneimittel beschleunigt. Und obwohl die seit langem versprochenen selbstfahrenden Autos noch nicht weit verbreitet sind, gehören KI-gestützte Fahrerassistenzsysteme zur Standardausstattung.

Einige der jüngsten Fortschritte im Bereich der künstlichen Intelligenz mögen Beobachtern außerhalb der Disziplin vielleicht übersehen. Aber tatsächlich spiegeln sie dramatische Fortschritte in den zugrunde liegenden KI-Technologien wider, so Littman. Ein anschauliches Beispiel ist die Verwendung von Hintergrundbildern in Videokonferenzen, die während der COVID-19-Pandemie zu einem allgegenwärtigen Bestandteil des Lebens vieler Menschen wurden, die von zu Hause aus arbeiten.

"Um Sie vor ein Hintergrundbild zu setzen, muss das System Sie von dem, was hinter Ihnen ist, unterscheiden. Und das ist nicht einfach, wenn man nur eine Ansammlung von Pixeln hat", so Littman. "Ein Bild so gut zu verstehen, dass man zwischen Vorder- und Hintergrund unterscheiden kann, ist etwas, was vielleicht vor fünf Jahren im Labor möglich war, aber sicherlich nicht auf jedem Computer in Echtzeit und bei hohen Bildraten. Das ist ein beachtlicher Fortschritt."

Kein dystopisches Szenario, aber subtile Gefahren

Was die Risiken der KI anbelangt, so sieht das Gremium kein dystopisches Szenario, in dem superintelligente Maschinen die Welt übernehmen. Die tatsächlichen Gefahren der KI sind etwas subtiler, aber nicht weniger bedenklich.

Einige der in dem Bericht genannten Gefahren sind auf den vorsätzlichen Missbrauch von KI zurückzuführen. Dazu gehören gefälschte Bilder und Videos, die Fehlinformationen verbreiten helfen oder den Ruf von Personen schädigen. Online-Bots lassen sich zudem zur Manipulation des öffentlichen Diskurses und der öffentlichen Meinung eingesetzt werden. Andere Gefahren ergeben sich aus der "Aura der Neutralität und Unparteilichkeit" von KI. "Das führt dazu, dass Systeme als objektiv akzeptiert werden, obwohl sie das Ergebnis voreingenommener historischer Entscheidungen oder sogar unverhohlener Diskriminierung sein können", schreibt das Gremium. Das erweist sich etwa in der Strafverfolgung als problematisch. Systeme zur Vorhersage von Verbrechen können sich nachweislich negativ auf farbige Bevölkerungsgruppen auswirken, oder im Gesundheitswesen, wo rassistische Vorurteile in Versicherungsalgorithmen den Zugang der Menschen zu einer angemessenen Versorgung beeinträchtigen können.

Wie sich die mit der künstlichen Intelligenz verbundenen Risiken vermindern lassen

Mit dem zunehmenden Einsatz von künstlicher Intelligenz werden solche Probleme wahrscheinlich immer häufiger auftreten. Die gute Nachricht, so Littman, sei, dass die Branche diese Gefahren ernst nehme. Sie suche aktiv nach Beiträgen von Experten aus der Psychologie, der Politik und anderen Bereichen, um Wege zu finden, sie zu entschärfen. Die Zusammensetzung des Gremiums, das den Bericht verfasst hat, spiegele laut Littman die sich erweiternde Perspektive wider, die das Fachgebiet einnehme.

"Das Gremium besteht fast zur Hälfte aus Sozialwissenschaftlern und zur Hälfte aus Informatikern. Ich war sehr angenehm überrascht, wie umfangreich das Wissen über KI unter den Sozialwissenschaftlern ist", sagte Littman. "Wir haben jetzt Leute, die in einer Vielzahl von verschiedenen Bereichen arbeiten und zu Recht als KI-Experten angesehen werden. Das ist ein positiver Trend."

Das Gremium sieht Regierungen, Hochschulen und die Industrie in der Pflicht, KI sich zum Wohle der Allgemeinheit weiterzuentwickeln.

Bild oben: Künstliche Intelligenz hat das Labor verlassen. Sie ist auf neue Weise in das Leben der Menschen eingedrungen, so ein neuer Bericht. Bild: Blue Planet Studio/Shutterstock.com

Weitere Informationen: https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence

Erfahren Sie hier mehr über den Einsatz von KI im Geigenbau.

Lesen Sie auch: "Produktentwicklung mit XR: Von der Gaming-Branche lernen"