conference logo

Playlist "FIfFKon 2019"

Silicon Valley zieht in den Krieg: KI, autonome Waffen und politisch-moralische Verkümmerung

Elke Schwarz (Queen Mary University London)

Die Autonomie in militärischen Waffensystemen hat in den letzten zehn Jahren stetige Fortschritte gemacht. Eine Reihe von Ländern einschließlich der USA, Großbritanniens, Chinas und Russlands, entwickeln, besitzen und / oder nutzen militärische Systeme, von denen zu diesem Zeitpunkt angenommen werden kann, dass sie über ein bestimmtes Maß an Autonomie und Künstlicher Intelligenz verfügen. Die Idee, die technologische Autonomie in der Kriegsführung auszubauen, ist keineswegs neu. Günther Anders, ein früher Denker der Mensch-Maschine-Interaktion, schreibt 1956 über den Einsatz eines „elektronischen Gehirns“ - einer technologischen Rechenmaschine, die im Kontext des Koreakrieges eine moralisch schwierige Entscheidung mit scheinbarer Objektivität treffen könnte. Anders stand einer solchen Maschinenagentur äußerst kritisch gegenüber und warnte, dass die Übertragung von moralisch bedeutsamen Entscheidungen auf die Militärtechnologie eine klare Abkehr von der moralischen Verantwortung des Menschen darstellt, wobei das Unbehagen bei schwierigen Entscheidungen in der Kriegsführung durch technologische Effizienz und angebliche Neutralität beseitigt wird. Anders Diagnose, die im selben Jahr veröffentlicht wurde als der Begriff „Artificial Intelligence“ (KI) geprägte wurde, erwies sich als prophetisch. Obwohl seine Erkenntnisse in erster Linie auf die rasanten Befürchtungen und Aufregungen über Innovationen in der Computertechnologie - zivil und militärisch - in seiner Zeit zurückzuführen sind, finden sie deutliche Resonanz in der heutigen Diskussion über neue militärische Technologien und insbesondere in den Debatten um autonome und intelligent Waffensysteme. Dieser Vortrag setzt sich mit den Auswirkungen von KI als Ersatz für menschliche Entscheidungen in moralisch relevanten Kontexten politischer und militärischer Natur auseinander und nimmt die politische und ethische Handlungsfähigkeit im Bezug auf zunehmend allgegenwärtiger KI kritisch unter die Lupe.