Rezension: Carl Friedrich Then

Bedenkt man, dass in den letzten Jahren eher Bücher wie Superintelligence von Nick Bostrom oder die Visionen Ray Kurzweils den Ton angaben, was KI angeht, kann das Buch durchaus ernüchternd sein. Mitchell konstatiert schon zu Beginn, dass sich das Feld der KI zwar in den letzten Jahren stark verändert hat, aber dass es nicht klar sei, ob das Ziel oder die Angst vor einer autonomen KI sich in naher Zukunft erfüllt. Mitchell spielt damit auf Ideen von Bostrom oder Kurzweil an, in denen gerade die Genese einer Superintelligenz oder Singularität eine zentrale Rolle spielt. Jedoch zeigt Mitchell wiederholt auf, dass es trotz der immensen Fortschritte der letzten Jahre noch viel zu tun gibt, um zum Beispiel ein dem Menschen in Fragen der Sicherheit überlegenes Autonomes Fahren zuzulassen. Ein Großteil der Probleme ist zwar gelöst, aber die sogenannten long tail problems verhindern weiterhin eine moralisch vertretbare Zulassung für den Straßenverkehr. Gemeint ist damit, dass ein autonomes Fahrzeug, so lange alles im Sinne der Straßenverkehrsordnung oder erwartbarer Umstände abläuft, mit einem Großteil der Aufgaben zurechtkommt. Aber sobald Dinge passieren, die sehr unwahrscheinlich sind oder die Abstraktionsvermögen über die üblichen Geschehnisse im Straßenverkehr hinaus verlangen, wird die KI vor für sie unlösbare Probleme gestellt, sofern in ihrem Datensatz keine vergleichbaren Situationen vorliegen. Eine ausgefallene Ampelanlage an einer Kreuzung kann dann schon ein Problem darstellen. Zwar ist menschliches Versagen sicherlich eines der größten Probleme im Straßenverkehr, doch scheint KI hier auch aufgrund ihrer fehlenden Abstraktionsfähigkeit noch keinen Ersatz zu bieten, der den Menschen sinnvoll ersetzen kann.
          Auch in anderen Feldern wird klar, dass die erwarteten revolutionären Innovationen ausbleiben. Dort zeigt sich vor allem, dass die sogenannten KIs nur mit den Datensätzen arbeiten können, die auf sie aufgespielt werden und Schwierigkeiten haben, wenn es um das Abstrahieren, Assoziieren sowie Konzeptualisieren geht. Somit also auch der Transfer auf andere Problemfelder für KIs sich noch als ausgesprochen schwierig darstellt. Mitchell zeigt dies beispielhaft an IBMs Watson, das die überhöhten Erwartungen nach dem Gewinn von Jeopardy! eher enttäuschte als bestätigte.

„Following Watson’s win, the AI community was divided as to wether Watson was a true advance in AI or a ‚publicity stunt‘ or ‚parlour trick‘, as some called it. While most people agreed that Watson’s performance on Jeopardy! was extraordinary, the question remained: was Watson actually solving genuinely hard problem – responding to sophisticated questions posed in colloquial language? Or is the task of responding to Jeopardy! clues, with their very particular linguistic format and fact-driven answers, actually not so hard for a computer with a built-in access to Wikipedia, among other huge data repositories? Not to mention that the computer has been trained on a hundred thousand Jeopardy! clues with formats very similiar to the ones it was faced with. […] 
          The story of Watson, post-Jeopardy!, could fill up a book of its own and will take a dedicated investigative writer to suss out. But here’s what I can glean from many articles I’ve read and the discussions I’ve had with people familiar with the technology. It turns out that the skills needed for Jeopardy! are not the same as those needed for question answering in, say, medicine or law. Real-world questions and answers in real-world domains have neither the simple short structure of Jeopardy! clues nor their well-defined responses. In addition, real-world domains such as cancer diagnosis, lack a large set of perfect, cleanly labelled training examples, each with a single right answer, as was the case with Jeopardy!“

Ebenso betont in diesem Kontext auch die New York Times, dass Watson eher als ein ernüchterndes Beispiel für den Hype und die Hybris gesehen werden kann, den/die es um KI gibt. Gleichzeitig wird dort aber betont, dass KI, wenn ihre Potentiale richtig erkannt und eingesetzt werden, eben doch einen großen Gewinn darstellt. So ist AI vielleicht (noch) nicht das ersehnte nächste große Ding in Sachen planetarer Evolution, sondern eher ein solides Geschäft und eine solide Anwendung. Sie ist dann eben nicht die autonom handelnde Intelligenz, sondern das workhorse, was die einfachen stumpfen, repetitiven Arbeiten übernehmen kann – also große Datenmengen ordnen, aufbereiten und zur Verfügung stellen.
          Vielleicht ist Watson und damit der KI-Hype auch ein gutes Beispiel für Dynamiken im Design, das sicherlich dafür bekannt ist immer wieder dem nächsten großen Ding hinterherzujagen oder es selbst ins Leben zu rufen. Es gehört dabei in gewisser Weise wohl auch zum der Praxis inhärenten Widerspruch von Designer:innen und Designagenturen den verschiedensten Trends und den nächsten großen Dingern hinterherzurennen, anstatt sich kritisch und damit natürlich auch langsamer mit den Dingen auseinanderzusetzen. Was KI betrifft hat in diesem Sinne IDEO schon vor einer Weile begonnen nicht mehr von Artificial sondern von Augmented Intelligence zu sprechen. Dabei scheint es wohl aber vor allem auch angesichts der technologischen Machbarkeiten um ein geeignetes Framing zu gehen. Technologische Innovation nicht als den Vernichter menschlicher Existenz, sondern deren Erweiterung zu einem „besseren“ Leben. Vielleicht deutet dies auf eine der produktiven Kernkompetenzen des Designs hin, nämlich technologische Innovation zu moderieren. Der nüchterne und geschulte Blick von Melanie Mitchell kann hierbei nur helfen.

→ Inhaltsverzeichnis
→ Für Lesemuffel

Rezension: Carl Friedrich Then

Für den Überblick – was möglich ist, was nicht möglich ist und welche Fragen sich aus den verschiedensten Entwicklungen ergeben – ist es ab und an recht praktisch, ein Buch einer klugen Person zu lesen. Vorausgesetzt natürlich man hat gerade einmal Zeit und Muße… Der Band von Melanie Mitchell ist eine der seltenen Ausnahmen, die genau das liefert: Eine nüchterne Analyse auf dem schmalen Grat zwischen den großen Hoffnungen und den großen Ängsten die das Feld der Künstlichen Intelligenzen umgibt. Eine Analyse, die auch auf einer über die Jahrzehnte gewonnenen Erfahrung in Forschung und Anwendung KIs basiert. Dabei findet sich neben einer fundierten kurzen Historiographie von KI, die Auseinandersetzung mit Anwendungsfeldern, deren Funktionalität, die Probleme bei ihrer Anwendung sowie immer wieder ein kritischer Ausblick, was zu erwarten ist, gemessen an Zielen, Hoffnungen und Ängsten.

Bedenkt man, dass in den letzten Jahren eher Bücher wie Superintelligence von Nick Bostrom oder die Visionen Ray Kurzweils den Ton angaben, was KI angeht, kann das Buch durchaus ernüchternd sein. Mitchell konstatiert schon zu Beginn, dass sich das Feld der KI zwar in den letzten Jahren stark verändert hat, aber dass es nicht klar sei, ob das Ziel oder die Angst vor einer autonomen KI sich in naher Zukunft erfüllt. Mitchell spielt damit auf Ideen von Bostrom oder Kurzweil an, in denen gerade die Genese einer Superintelligenz oder Singularität eine zentrale Rolle spielt. Jedoch zeigt Mitchell wiederholt auf, dass es trotz der immensen Fortschritte der letzten Jahre noch viel zu tun gibt, um zum Beispiel ein dem Menschen in Fragen der Sicherheit überlegenes Autonomes Fahren zuzulassen. Ein Großteil der Probleme ist zwar gelöst, aber die sogenannten long tail problems verhindern weiterhin eine moralisch vertretbare Zulassung für den Straßenverkehr. Gemeint ist damit, dass ein autonomes Fahrzeug, so lange alles im Sinne der Straßenverkehrsordnung oder erwartbarer Umstände abläuft, mit einem Großteil der Aufgaben zurechtkommt. Aber sobald Dinge passieren, die sehr unwahrscheinlich sind oder die Abstraktionsvermögen über die üblichen Geschehnisse im Straßenverkehr hinaus verlangen, wird die KI vor für sie unlösbare Probleme gestellt, sofern in ihrem Datensatz keine vergleichbaren Situationen vorliegen. Eine ausgefallene Ampelanlage an einer Kreuzung kann dann schon ein Problem darstellen. Zwar ist menschliches Versagen sicherlich eines der größten Probleme im Straßenverkehr, doch scheint KI hier auch aufgrund ihrer fehlenden Abstraktionsfähigkeit noch keinen Ersatz zu bieten, der den Menschen sinnvoll ersetzen kann.
          Auch in anderen Feldern wird klar, dass die erwarteten revolutionären Innovationen ausbleiben. Dort zeigt sich vor allem, dass die sogenannten KIs nur mit den Datensätzen arbeiten können, die auf sie aufgespielt werden und Schwierigkeiten haben, wenn es um das Abstrahieren, Assoziieren sowie Konzeptualisieren geht. Somit also auch der Transfer auf andere Problemfelder für KIs sich noch als ausgesprochen schwierig darstellt. Mitchell zeigt dies beispielhaft an IBMs Watson, das die überhöhten Erwartungen nach dem Gewinn von Jeopardy! eher enttäuschte als bestätigte.

„Following Watson’s win, the AI community was divided as to wether Watson was a true advance in AI or a ‚publicity stunt‘ or ‚parlour trick‘, as some called it. While most people agreed that Watson’s performance on Jeopardy! was extraordinary, the question remained: was Watson actually solving genuinely hard problem – responding to sophisticated questions posed in colloquial language? Or is the task of responding to Jeopardy! clues, with their very particular linguistic format and fact-driven answers, actually not so hard for a computer with a built-in access to Wikipedia, among other huge data repositories? Not to mention that the computer has been trained on a hundred thousand Jeopardy! clues with formats very similiar to the ones it was faced with. […] 
          The story of Watson, post-Jeopardy!, could fill up a book of its own and will take a dedicated investigative writer to suss out. But here’s what I can glean from many articles I’ve read and the discussions I’ve had with people familiar with the technology. It turns out that the skills needed for Jeopardy! are not the same as those needed for question answering in, say, medicine or law. Real-world questions and answers in real-world domains have neither the simple short structure of Jeopardy! clues nor their well-defined responses. In addition, real-world domains such as cancer diagnosis, lack a large set of perfect, cleanly labelled training examples, each with a single right answer, as was the case with Jeopardy!“

Ebenso betont in diesem Kontext auch die New York Times, dass Watson eher als ein ernüchterndes Beispiel für den Hype und die Hybris gesehen werden kann, den/die es um KI gibt. Gleichzeitig wird dort aber betont, dass KI, wenn ihre Potentiale richtig erkannt und eingesetzt werden, eben doch einen großen Gewinn darstellt. So ist AI vielleicht (noch) nicht das ersehnte nächste große Ding in Sachen planetarer Evolution, sondern eher ein solides Geschäft und eine solide Anwendung. Sie ist dann eben nicht die autonom handelnde Intelligenz, sondern das workhorse, was die einfachen stumpfen, repetitiven Arbeiten übernehmen kann – also große Datenmengen ordnen, aufbereiten und zur Verfügung stellen.
          Vielleicht ist Watson und damit der KI-Hype auch ein gutes Beispiel für Dynamiken im Design, das sicherlich dafür bekannt ist immer wieder dem nächsten großen Ding hinterherzujagen oder es selbst ins Leben zu rufen. Es gehört dabei in gewisser Weise wohl auch zum der Praxis inhärenten Widerspruch von Designer:innen und Designagenturen den verschiedensten Trends und den nächsten großen Dingern hinterherzurennen, anstatt sich kritisch und damit natürlich auch langsamer mit den Dingen auseinanderzusetzen. Was KI betrifft hat in diesem Sinne IDEO schon vor einer Weile begonnen nicht mehr von Artificial sondern von Augmented Intelligence zu sprechen. Dabei scheint es wohl aber vor allem auch angesichts der technologischen Machbarkeiten um ein geeignetes Framing zu gehen. Technologische Innovation nicht als den Vernichter menschlicher Existenz, sondern deren Erweiterung zu einem „besseren“ Leben. Vielleicht deutet dies auf eine der produktiven Kernkompetenzen des Designs hin, nämlich technologische Innovation zu moderieren. Der nüchterne und geschulte Blick von Melanie Mitchell kann hierbei nur helfen.

→ Inhaltsverzeichnis
→ Für Lesemuffel