Computerwissenschaftler Nate Soares warnt: „Künstliche Intelligenz kann die Menschheit auslöschen“

Er ist einer der bekanntesten Computerwissenschaftler und KI-Forscher weltweit: Nate Soares. Der Geschäftsführer des gemeinnützigen Machine Intelligence Research Institute (MIRI) im kalifornischen Berkeley arbeitete zuvor bei Microsoft und Google. In einem aufsehenerregenden Interview mit dem Handelsblatt spricht Soares über Segen und Fluch der Künstlichen Intelligenz – und welche Gefahren die Menschheit bedrohen.

NIUS dokumentiert wichtige Aussagen:

Wie mächtig Künstliche Intelligenz heute schon ist

„Wir sehen seit Jahren eine Fähigkeit: KI wird immer mächtiger. Und wir Menschen haben dem immer weniger entgegenzusetzen. Wenn man KIs von der Leine lässt, tun sie lauter Dinge, die niemand von ihnen verlangt. Sie agieren autonom, bizarr und nicht besonders herzerwärmend, aber noch nicht bösartig. Solange die KI-Modelle relativ dumm waren, war all das kein Problem. Aber wenn sie die Intelligenz dieser Systeme weiter steigern, dann entstehen KIs, die sich überhaupt nicht mehr für uns interessieren.“

Kann Künstliche Intelligenz bösartig sein?

„Es geht nicht darum, ob die Präferenzen der KI bösartig sind oder nicht. Schon allein wenn KIs irgendwann in der Lage sind, ihre eigene Infrastruktur aufzubauen, könnte es uns schlecht ergehen. KIs würden dann ihre eigene Technologie entwickeln, Roboter steuern, Ressourcen ab- und Rechenzentren aufbauen, in denen sie laufen. Im Grunde bilden sie dann ihre eigene Spezies, die ihre eigenen seltsamen Ziele verfolgt. Sobald es viele dieser Agenten gibt, die intelligenter sind als wir, werden sie ihre eigenen Fabriken bauen, ihre eigene Wirtschaft, ihre eigene Welt. Und diese wird viel schneller laufen, weil Silizium schneller arbeitet als unsere Gehirne. Vielleicht sehen die KIs uns Menschen dann als langsam wachsende Bäume. Bestenfalls stehen wir unter Naturschutz. Aber was passiert mit einem Baum, der einer Fabrik im Weg steht? Er wird gefällt.“

Was passieren kann, wenn Künstliche Intelligenz sich verselbstständigt

„Lange haben wir gesagt: KIs können niemals etwas in der realen Welt tun. Inzwischen haben wir ihnen praktischerweise Websites gebaut, auf denen sie Menschen anheuern können. Sobald die KIs intelligent genug sind, wird es ihnen nicht mehr schwerfallen, über das Internet die Welt zu beeinflussen. Die Frage, ob die Maschinen eine Seele haben, spielt keine Rolle mehr, wenn sie in der Lage sind, die Welt zu transformieren. Erstmals können KIs heute in der ganz realen Welt ganz realen Schaden anrichten. Und hierfür müssen sie noch nicht einmal von bösen Menschen missbraucht werden. Es reicht, wenn sie einfach nicht gut funktionieren. Die Folgen sehen wir bereits. Und wir müssen dringend diskutieren, wie sich noch Schlimmeres verhindern lässt. Meine Vorhersage ist, dass die KI sich überhaupt nicht um uns kümmern wird. Ich sage nicht, die KI wird uns lieben oder uns hassen. Ich sage: Wir werden ihr egal sein. Und das wird nicht gut für uns enden. Wir müssen die Entwicklung jetzt stoppen.“

Wie wir Superintelligenz kontrollieren können

„Wenn erst einmal eine Superintelligenz gebaut ist, kann sie niemand mehr anleinen. Wir müssen nicht auf ChatGPT oder selbstfahrende Autos verzichten. Wir müssen auf das Wettrennen um eine immer intelligentere KI verzichten, die niemand mehr versteht. Diese Technologie braucht sehr spezialisierte Computerchips. Ich würde es verbieten, mehr als acht davon zu besitzen. So gehen wir auch mit Uran um: Private dürfen das weder benutzen noch anreichern. Ähnliches brauchen wir für Chips, und zwar global. Uns bleibt weniger Zeit, als wir denken. Meine Vermutung ist, dass wir eine Intelligenzexplosion sehen werden. KIs werden andere KIs noch intelligenter machen. Das könnte sehr schnell gehen, ähnlich wie die menschliche Evolution im Vergleich zum Rest der Erdgeschichte rasend schnell verlief. Vielleicht bleiben uns zwei, drei Jahre, bestenfalls zehn. Nur: Zehn Jahre sind nicht viel Zeit, um sich auf das Erscheinen einer zweiten, wirklich intelligenten Spezies auf diesem Planeten vorzubereiten.“

Auch bei NIUS:
Angriff auf die Meinungsfreiheit: So durchsucht die Lügenverbots-Behörde schon jetzt mit Künstlicher Intelligenz das Netz