Muss Künstliche Intelligenz (KI) stärker kontrolliert werden?

Wie gefährlich ist Künstliche Intelligenz (KI)? Diese Frage wird seit Jahren kontrovers diskutiert. Auch in der KI-Branche gibt es unterschiedliche Einschätzungen zu den Chancen und Risiken der neuen Technologie. Während Fachleute und Unternehmen vor möglichen Gefahren warnen und Regeln fordern, schreitet die Entwicklung schnell voran.

Die Sorgen reichen von dem Verlust von Arbeitsplätzen bis hin zu autonomen Systemen, die sich menschlicher Kontrolle entziehen könnten. Besonders weit gehen Warnungen vor einer künftigen Superintelligenz, die die gesamte Menschheit auslöschen könnte. Die Europäische Union hat 2024 mit dem sogenannten AI Act das weltweit erste umfassende KI-Gesetz beschlossen. Es soll dafür sorgen, dass KI in Europa sicher und verantwortungsvoll entwickelt und eingesetzt wird. Kritische Stimmen bemängeln jedoch, dass die vielen Vorschriften Innovationen bremsen könnten. Sie verweisen auf die USA und China, die bei der Entwicklung von KI im weltweiten Vergleich schnelle Fortschritte machen.

US-Präsident Donald Trump setzt dagegen auf eine weitgehend freiwillige Selbstkontrolle der großen KI‑Unternehmen. Die Konzernchefs von Nvidia, OpenAI und Anthropic hätten eine „moralisch verbindliche“ Selbstverpflichtung unterzeichnet, Schutzmechanismen in ihre KI einzubauen, erklärte Trump. Doch reicht das aus, um die Risiken zu begrenzen – oder braucht es strengere staatliche Regeln, damit die Entwicklung der KI nicht schneller voranschreitet, als ihre Gefahren kontrolliert werden können?