Eine neue Studie, die diesen Monat von der Association for the Advancement of Artificial Intelligence (AAAI) veröffentlicht wurde und an der Hunderte von KI-Forschern beteiligt waren, kommt zu einem wichtigen Ergebnis: Unser aktueller Ansatz zur KI wird uns wahrscheinlich nicht zu künstlicher allgemeiner Intelligenz führen.
Künstliche Intelligenz war in den letzten Jahren ein beliebtes Gesprächsthema, doch als wissenschaftliches Forschungsgebiet existiert KI bereits seit Jahrzehnten. Beispielsweise wurden Alan Turings berühmte Abhandlung „Computing Machinery and Intelligence“ und der Turing-Test, über den wir heute noch sprechen, im Jahr 1950 veröffentlicht.
Die KI, über die heute alle reden, ist aus diesen Jahrzehnten der Forschung entstanden, entfernt sich aber auch davon. Anstatt sich auf wissenschaftliche Forschung zu beschränken, gibt es mittlerweile auch einen eigenen Zweig der KI, den wir „kommerzielle KI“ nennen können.
Große Monopole wie Microsoft, Google, Meta, Apple und Amazon sind führend bei kommerziellen KI-Bemühungen, deren Hauptziel die Entwicklung von KI-Produkten ist. Dies sollte kein Problem darstellen, aber im Moment sieht es so aus, als ob es eines sein könnte.
Da die meisten Menschen die KI-Forschung erst seit etwa zwei Jahren verfolgen, stammen ihre Kenntnisse über KI größtenteils von diesen Unternehmen und nicht von der Wissenschaft. Die Studie thematisiert dieses Problem im Kapitel „KI-Wahrnehmung vs. Realität“, in dem 79 % der befragten Wissenschaftler der Ansicht sind, dass die gegenwärtige Wahrnehmung der KI-Fähigkeiten nicht mit der Realität der KI-Forschung und -Entwicklung übereinstimmt.
Mit anderen Worten: Was die Öffentlichkeit über KI denkt, entspricht nicht dem, was Wissenschaftler über KI denken. Der Grund dafür ist ebenso einfach wie bedauerlich: Wenn ein leitender Tech-Manager eine Aussage über KI macht, handelt es sich dabei nicht um eine wissenschaftliche Meinung, sondern um Produktmarketing. Sie möchten die Technologie hinter ihren neuen Produkten anpreisen und dafür sorgen, dass jeder das Bedürfnis verspürt, auf den Zug aufzuspringen.
Wenn beispielsweise Sam Altman oder Mark Zuckerberg behaupten , dass Softwareentwickler-Jobs durch künstliche Intelligenz ersetzt werden, dann wollen sie damit Ingenieure dazu bewegen, KI-Kenntnisse zu erwerben und Technologieunternehmen zu Investitionen in teure Unternehmenslösungen zu bewegen. Solange sie aber nicht anfangen, ihre Ingenieure zu ersetzen (und davon profitieren), glaube ich ihnen persönlich kein Wort.
Allerdings beeinflusst kommerzielle KI nicht nur die öffentliche Wahrnehmung. Die Studienteilnehmer sind der Ansicht, dass der von großen Technologieunternehmen geschaffene „KI-Hype“ den Forschungsanstrengungen schadet. So stimmen beispielsweise 74 % der Befragten zu, dass die Richtung der KI-Forschung vom Hype bestimmt wird – wahrscheinlich, weil Forschung, die mit kommerziellen KI-Zielen im Einklang steht, leichter zu finanzieren ist. 12 % glauben zudem, dass die theoretische KI-Forschung darunter leidet.
Wie ernst ist dieses Problem? Auch wenn die großen Technologieunternehmen Einfluss auf unsere Forschung nehmen, dürften die vermutlich enormen Summen, die sie in dieses Feld stecken, insgesamt positive Auswirkungen haben. Allerdings ist Vielfalt in der Forschung entscheidend – wir müssen viele verschiedene Wege verfolgen, um den besten zu finden.
Doch die großen Technologieunternehmen konzentrieren sich derzeit nur auf eines: große Sprachmodelle. Dieser sehr spezifische Typ von KI-Modellen ist die Grundlage fast aller aktuellen KI-Produkte. Experten wie Sam Altman glauben, dass wir durch die zunehmende Skalierung dieser Modelle (d. h. durch mehr Daten, mehr Trainingszeit und mehr Rechenleistung) letztendlich eine allgemeine KI erreichen werden.
Diese als Skalenhypothese bekannte Idee besagt, dass die kognitiven Fähigkeiten einer KI umso größer und die Fehlerquote umso geringer sind, je mehr Leistung wir ihr zuführen. Einige Interpretationen besagen auch, dass unerwartet neue kognitive Fähigkeiten auftreten werden. Obwohl große Sprachmodelle derzeit nicht besonders gut darin sind, Probleme zu planen und zu begründen, müssen diese Fähigkeiten irgendwann entstehen.
es gibt keine Mauer
– Sam Altman (@sama) 14. November 2024
In den letzten Monaten ist die Skalierungshypothese jedoch erheblicher Kritik ausgesetzt. Einige Wissenschaftler glauben, dass die Skalierung großer Sprachmodelle niemals zu allgemeiner künstlicher Intelligenz führen wird, da ihrer Ansicht nach die zusätzliche Rechenleistung, die wir neuen Modellen zur Verfügung stellen , keine weiteren Ergebnisse mehr bringt. Stattdessen seien wir an eine „Skalierungsgrenze“ gestoßen, an der große Mengen zusätzlicher Rechenleistung und Daten nur noch geringfügige Verbesserungen der neuen Modelle bewirken. Die meisten an der AAAI-Studie beteiligten Wissenschaftler vertreten diese Position.
Die Mehrheit der Befragten (76 %) gab an, dass eine „Ausweitung aktueller KI-Ansätze“ zur Erzielung einer AGI „unwahrscheinlich“ oder „sehr unwahrscheinlich“ sei. Dies deutet auf Zweifel hin, ob aktuelle Modelle des maschinellen Lernens ausreichen, um allgemeine Intelligenz zu erreichen.
Aktuelle große Sprachsysteme können bei optimalen Bedingungen hochrelevante und nützliche Antworten liefern, basieren dabei aber auf mathematischen Prinzipien . Viele Wissenschaftler sind der Ansicht, dass wir neue Algorithmen benötigen, die Logik, Vernunft und Faktenwissen nutzen, um Lösungen zu finden, wenn wir dem Ziel einer allgemeinen künstlichen Intelligenz näherkommen wollen. Hier ein vernichtendes Zitat zu großen Sprachsystemen und allgemeiner künstlicher Intelligenz aus einer Veröffentlichung von Jacob Browning und Jan LeCun aus dem Jahr 2022 .
Ein System, das ausschließlich auf Sprache trainiert ist, wird niemals an die menschliche Intelligenz herankommen, selbst wenn es von jetzt an bis zum Erlöschen der Hitze des Universums trainiert würde.
Es gibt jedoch noch keine Möglichkeit herauszufinden, wer hier Recht hat. Einerseits ist die Definition allgemeiner künstlicher Intelligenz nicht festgelegt und nicht alle streben dasselbe an. Manche Menschen glauben, dass eine allgemeine künstliche Intelligenz menschenähnliche Reaktionen mit menschenähnlichen Methoden produzieren sollte – sie sollte also die Welt um sich herum beobachten und Probleme auf ähnliche Weise wie wir lösen. Andere wiederum sind der Ansicht, dass sich die allgemeine KI eher auf richtige Antworten als auf menschenähnliche Reaktionen konzentrieren sollte und dass die verwendeten Methoden keine Rolle spielen sollten.
Letztendlich spielt es aber in vielerlei Hinsicht keine Rolle, für welche Variante der allgemeinen KI man sich interessiert oder ob man die Skalierungshypothese befürwortet oder ablehnt – wir müssen unsere Forschungsbemühungen diversifizieren. Konzentrieren wir uns ausschließlich auf die Skalierung großer Sprachmodelle, müssen wir bei Misserfolg wieder ganz von vorne anfangen und verpassen möglicherweise die Entdeckung neuer, effektiverer oder effizienterer Methoden. Viele der an dieser Studie beteiligten Wissenschaftler befürchten, dass kommerzielle KI und der damit verbundene Hype den tatsächlichen Fortschritt bremsen werden – wir können nur hoffen, dass ihre Bedenken ausgeräumt werden und beide Forschungszweige der KI nebeneinander existieren und sich gemeinsam weiterentwickeln können. Natürlich könnte man auch hoffen, dass die KI-Blase platzt und alle KI-gestützten Technologieprodukte in der Versenkung verschwinden, wenn man das so möchte.
Kommentarfunktion ist geschlossen.