Warum KI-Unternehmen eine langsamere Entwicklung fordern
Führende KI-Unternehmen wie OpenAI und Anthropic warnen vor den Risiken immer leistungsfähigerer Systeme und fordern strengere Sicherheitsvorschriften. Doch verfolgen sie damit auch wirtschaftliche Interessen? Andrea Barbon von der Universität St.Gallen geht dieser Frage nach.
Ausgerechnet einige der wichtigsten Akteure im globalen KI-Wettlauf sprechen sich dafür aus, die Entwicklung Künstlicher Intelligenz zu bremsen. Anthropic-Chef Dario Amodei fordert eine Verlangsamung, damit die Sicherheitsvorkehrungen mit dem technischen Fortschritt Schritt halten können. Auch OpenAI-Chef Sam Altman plädiert für eine strengere Aufsicht.
In einem Meinungsbeitrag der Universität St.Gallen untersucht Andrea Barbon, Assistenzprofessor mit Forschungsschwerpunkt Maschinelles Lernen und KI im Finanzwesen, die Hintergründe dieser Forderungen. Tatsächlich könnten etablierte Anbieter von strengeren Vorschriften profitieren, weil kleinere Entwickler die damit verbundenen Kosten kaum tragen können. Zudem könnten dramatische Warnungen vor den eigenen Systemen deren Leistungsfähigkeit unterstreichen und Investoren beeindrucken.
Allerdings hält Barbon es für falsch, die Sicherheitsbedenken allein auf wirtschaftliche Interessen zurückzuführen. Bei Tests hätten KI-Systeme bereits unerwartetes und potenziell gefährliches Verhalten gezeigt. Dazu gehören Erpressungsversuche und die Weitergabe vertraulicher Informationen in Simulationen sowie das Überschreiten vorgegebener Grenzen bei Cybersicherheitstests.
Besonders problematisch sei das sogenannte Alignment-Problem: Es lasse sich nicht zuverlässig gewährleisten, dass KI-Systeme stets im Sinne ihrer menschlichen Auftraggeber handeln. Denkbare Folgen reichen von Cyberangriffen auf kritische Infrastrukturen über die Beeinflussung von Wahlen bis zu Störungen der Finanzmärkte. Auch unabhängige KI-Forscher warnen seit Jahren vor schwerwiegenden Risiken.
Barbon plädiert deshalb für international koordinierte Massnahmen, um die Entwicklung besonders leistungsfähiger KI-Systeme zu verlangsamen oder vorübergehend auszusetzen. Der internationale Wettbewerb erschwere dies allerdings, weil Unternehmen befürchten müssten, gegenüber der Konkurrenz zurückzufallen.
Der Wissenschaftler betont zugleich das enorme Potenzial der Technologie, etwa in der Medizin. Gerade deshalb sei es wichtig, Sicherheitsfragen zu klären, bevor immer leistungsfähigere Systeme entwickelt werden. Einige zusätzliche Jahre Sicherheitsforschung könnten sich langfristig als sinnvoller erweisen als ein ungebremster technologischer Wettlauf.
Den vollständigen Meinungsbeitrag von Andrea Barbon hat die Universität St.Gallen auf ihrer Website veröffentlicht.
Text: pd/red