Mögliche Kettenreaktion

Könnten KIs demnächst durch Selbstoptimierung Superintelligenz erlangen?

KI-Systeme sind inzwischen ein gängiges Werkzeug für die KI-Entwicklung. Fachleute sehen das Risiko eines Kontrollverlusts, doch es gibt einige Hürden

Orxan - stock.adobe.com

Auch wenn Künstliche Intelligenz anders funktioniert als menschliche, wird sie durch ihre Leistungsfähigkeit zum Risiko.

Ein gängiges Schreckensszenario der Science-Fiction-Literatur geht so: Ein KI-System wird so intelligent, dass es die Fähigkeit erlangt, sich selbst weiter zu verbessern. Damit wird es in kürzester Zeit uns Menschen so weit überlegen, dass wir jegliche Macht darüber verlieren. Als in den vergangenen Jahren und Monaten KI-Modelle tatsächlich zunehmend begannen, den Code von KI-Modellen zu verbessern, sorgte das nicht ohne Grund für besonderes Interesse. Der Fachausdruck dafür heißt Recursive Self-Improvement (RSI), rekursive Selbstverbesserung. Erst vor Kurzem warnten die KI-Pioniere Geoffrey Hinton und Yoshua Bengio eindringlich vor den realen Gefahren eines solchen Prozesses.

Willkommen bei DER STANDARD

Sie entscheiden darüber, wie Sie unsere Inhalte nutzen wollen. Ihr Gerät erlaubt uns derzeit leider nicht, die entsprechenden Optionen anzuzeigen.

Bitte deaktivieren Sie sämtliche Hard- und Software-Komponenten, die in der Lage sind Teile unserer Website zu blockieren. Z.B. Browser-AddOns wie Adblocker oder auch netzwerktechnische Filter.

Sie haben ein PUR-Abo?

Source: Der Standard

At a glance

Topic
World
Country
🇦🇹 AT
Publisher language
DE
Added to Allnira