Die Menschheit ist derzeit mit vielen globalen Risiken konfrontiert, wozu unter anderem der Klimawandel, Atomwaffen und mögliche Auswirkungen immer leistungsfähigerer Systeme der Künstlichen Intelligenz (KI) gehören.

Auch das bereits in den 1980er Jahren diskutierte Risiko eines Atomkriegs aus Versehen ist wieder brandaktuell und könnte deutlich steigen. Zur Erhöhung eines solches Risikos können die Weltraumbewaffnung, Cyberangriffe und auch immer mehr Autonomie in Waffensystemen beitragen. Der aktuelle Aufrüstungswettlauf betrifft auch die KI und den Cyberraum. Während in der Vergangenheit Kräftevergleiche möglich waren und zur Sicherheit beigetragen haben, fehlt eine solche Transparenz bei KI und im Cyberraum. Fähigkeiten eines potenziellen Gegners (und auch der eigenen) sind weitgehend unbekannt. Dies kann leicht zu Fehlkalkulationen und gefährlichen Situationen führen.

Ein Resultat von aktuellen KI-Entwicklungen könnte sogar eine uns überlegene Superintelligenz sein, mit völlig unkalkulierbaren Folgen. Bei KI in Waffensystemen und auch für die KI-Entwicklung selbst droht ein zunehmender Kontrollverlust.

Solche Zusammenhänge werden im Vortrag dargestellt und mit Hinweisen ergänzt, wie solche Risiken reduziert werden könnten.

Referent: Karl Hans Bläsius

Prof. i.R., zuletzt Hochschule Trier, Fachbereich Informatik, studierte an der RWTH Aachen