[pauli8]

Waffen mit Künstlicher Intelligenz
Wissenschaftler laufen Sturm gegen "Terminator"-Projekt

Von David Ruch
05.04.2018, 20:40 Uhr


Killer-Roboter "Terminator": Die Waffenforschung ist nicht mehr weit von der Dystopie Hollywoods entfernt. (Quelle: Melinda Sue Gordon/2015 Paramount Pictures/dpa)

Südkoreanische Forscher wollen gemeinsam mit einem umstrittenen Rüstungskonzern Waffentechnologie mit Künstlicher Intelligenz verschmelzen. Das alarmiert jetzt weltweit Wissenschaftler.

Es klingt wie eine Idee aus einem berühmten Hollywood-Film: Ein Forschungslabor und eine Rüstungsfirma starten ein Projekt zur Entwicklung autonomer Waffen mit Künstlicher Intelligenz (KI). Diese Waffen sollen, wenn einmal einsatzbereit, ihre Ziele selbständig suchen und anschließend eliminieren – ohne, dass ein Mensch eingreifen muss. Internationale Experten laufen Sturm und warnen, solche Systeme könnten sich irgendwann jeglicher Kontrolle entziehen. Der "Terminator" lässt grüßen.

In Südkorea arbeiten derzeit Wissenschaftler an der Entwicklung genau solcher Waffen. Vor gut einem Monat präsentierten der Konzern Hanwha und die staatliche Forschungsuniversität KAIST ein gemeinsames Forschungsprojekt: das Research Center for the Convergence of National Defense and Artificial Intelligence – zu deutsch: Forschungszentrum für die Konvergenz von Nationaler Verteidigung und Künstlicher Intelligenz.

Laut Mitteilung von Hanwha wollen die Südkoreaner mit dem Forschungsprojekt in den globalen Wettstreit in der Entwicklung autonomer Waffen einsteigen. Konkret geplant seien ein Kommandosystem, das auf Künstlicher Intelligenz basiert, ein Algorithmus zur Navigation unbemannter U-Boote, ein intelligentes Flug-Trainings-System, sowie ein autonomes Aufklärungs- und Erfassungssystem. Bereits am Jahresende sollen die gemeinsamen Studien abgeschlossen sein und konkrete Forschungsergebnisse vorliegen.

Wirksame Mechanismen menschlicher Kontrolle fehlen
Inzwischen aber wird der Aufschrei gegen das Projekt immer lauter. Wissenschaftler aus 30 Ländern haben zum Boykott der Universität in Daejeon aufgerufen. In einem offenen Brief an den Präsidenten der Hochschule, Sung-Chul Shin, erklären sie, bis auf Weiteres jede Zusammenarbeit einzustellen, solange KAIST nicht sicherstellen kann, dass die entwickelten Waffen wirksame Mechanismen menschlicher Kontrolle beinhalten.

Autonome Waffen, erklären die 50 Unterzeichner des Schreibens, würden es erlauben, Kriege in nie dagewesener Geschwindigkeit und bislang ungekanntem Ausmaß zu führen. Befreit von jeglichen ethischen Zwängen, könnten Despoten und Terroristen die Waffen gegen unschuldige Menschen einsetzen. "Wenn diese Büchse der Pandora einmal geöffnet ist", warnen die Forscher, "wird man sie kaum noch schließen können."

Mit KI ließe sich eine Reihe großartiger Dinge tun, die Leben retteten, auch im militärischen Kontext, sagte der Initiator des Boykotts, Toby Walsh, Professor an der Universität von New South Wales in Australien. "Aber öffentlich zu erklären, das Ziel sei die Entwicklung autonomer Waffen und das mit einem solchen Partner, beunruhigt mich sehr." Hanwha, Südkoreas größte Waffenschmiede, steht auch wegen der Herstellung von weltweit geächteter Streumunition in der Kritik.

Amerikaner und Russen entwickeln intelligente Waffen
Die Debatte um Künstliche Intelligenz in der Rüstungsindustrie ist nicht neu. Auch Länder wie die USA und Russland arbeiten an intelligenten Waffensystemen. Das Pentagon entwickelt derzeit einen Seezielflugkörper, der im Flug Kurs und Geschwindigkeit selbständig anpassen und feindliche Radarsysteme erfassen kann. Ein ähnliches Projekt verfolgt auch Moskau.

Ein anderes Programm des US-Verteidigungsministeriums mit dem Namen "Wingman" zielt auf den Bau eines autonomen, bewaffneten Fahrzeugs, das einem Soldaten an die Seite gestellt wird. Der Soldat, so verspricht es das Pentagon, soll in letzter Konsequenz die Kontrolle über den Einsatz tödlicher Munition behalten.


Roboter "Atlas" von Boston Dynamics: Wissenschaftler arbeiten an Waffensystemen für die Schlachtfelder der Zukunft. (Quelle: Tyrone Siu/Reuters)

Sorge vor dem Verlust menschlicher Kontrolle
Befürworter intelligenter Waffensysteme sagen, der Einsatz von KI könne helfen, Rüstungskosten zu drücken und zivile Opfer in Kriegen zu vermeiden. Kritiker hingegen warnen, die Entwicklung solcher Waffensysteme würde große kriegerische Konflikte nur heraufbeschwören. Sie befürchten einen Verlust menschlicher Kontrolle und fordern deshalb einen weltweiten Bann für autonome Waffen.

Bei einer internationalen Konferenz zu Künstlicher Intelligenz 2015 in Buenos Aires wiesen Wissenschaftler auf die Risiken hin, die sich allein aus der Forschung an solchen Systemen ergeben würden. Denn anders als nukleare Waffen, für deren Bau erhebliche finanzielle Mittel und schwer beschaffbare Rohstoffe notwendig sind, könnten intelligente Waffensysteme mit vergleichsweise geringen Ressourcen in Masse produziert werden. Sie würden auf Schwarzmärkten gehandelt und in die Hände von Terroristen und Diktatoren fallen können, und ließen sich für "Attentate, die Destabilisierung von Staaten, die Unterdrückung der Bevölkerung und gezielte Angriffe auf ethnische Gruppen einsetzen".

Eine Konferenz der Vereinten Nationen befasste sich im vergangenen November in Genf mit dem Thema. Doch auf mehr als eine Fortführung der Beratungen konnten sich die rund 100 teilnehmenden Länder nicht einigen. Appelle von Menschenrechtlern und Experten, rasch Regeln zu schaffen, bevor tödliche autonome Waffen einsatzbereit sind, prallten am Unwillen der waffenproduzierenden Staaten ab. Der Vorsitzende der Beratungen, der indische Botschafter Amandeep Gill, stufte die Debatte gar als hysterisch ein. "Man sollte die Sache nicht dramatisieren", sagte er. "Roboter werden nicht die Welt übernehmen."

Quelle:
[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
__________________________________________________ _________________

Alles was machbar ist wird gemacht werden. *mad* LEIDER. Da bin ich mir fast sicher.

[mysteryy]

I, Robot 2(Die Realität)

Besetzung
Wir alle..

Produktionsland
Welt
Originalsprache
Versteht niemand so richtig
Erscheinungsjahr
Keine genauen Angaben
Länge
Lebenslang
Altersfreigabe
FSK 1

Regie
Idioten
Drehbuch
Idioten
Produktion
Idioten
Kamera
An jeder Ecke
Schnitt
Aua

[betaalpha]

Was habe ich davon, wenn es Mechanismen menschlicher Kontrolle gibt, eingebaut sind?
Sie lassen sich dann auch deaktivieren - wie auch immer!

[Samonuske]

Hmm Ok ein Roboter in einem Squad warum nicht. Der kann in den Häuserkämpfen bestimmt gut das Feuer aus sich ziehen. Und die anderen geben gut Deckungsfeuer oder so. Aber eine reine Robotik Armee wie oben beschrieben , würde ich auch nicht befürworten.

[Caplan]

Die Ki laeuft spaetenstens dann dem menschen aus dem ruder, wenn die KI eine eigene Programmiersprache definieren kann / will , deren Inhalt menschen nicht mehr verstehen.

[Kneter33]

Obwohl ich meine Kinder über alles liebe tut es mir irgendwie leid die in diese kaputte Welt gesetzt zu haben.
Die werden diesen Scheiß vielleicht ausbaden müssen.
Es ist doch irre wie die Spezies Mensch versucht sich gegenseitig zu killen.
Es ist einfach nur Krank.

[pauli8]

Jetzt ist mir ein blöder Gedanke gekommen.

Mit Abstand sind die USA der größte Waffenlieferant in über 100 Länder, gefolgt von Russland und China. Die Empfängerländer werden je nach den unterschiedlichen Zielen der Politik ausgewählt und bestimmt.
Wie für die USA sind auch für Russland Waffenexporte ein zentrales Mittel seiner Außen- und Sicherheitspolitik.

Nach diesem Bericht soll sich auch Russland an der Entwicklung dieser "Systeme" beteiligen.
Zitat aus dem TS:

Amerikaner und Russen entwickeln intelligente Waffen
Die Debatte um Künstliche Intelligenz in der Rüstungsindustrie ist nicht neu. Auch Länder wie die USA und Russland arbeiten an intelligenten Waffensystemen...

Russland exportiert vorzugsweise in Länder wie Indien und China.

Zitat aus dem TS:

..Der Vorsitzende der Beratungen, der indische Botschafter Amandeep Gill, stufte die Debatte gar als hysterisch ein. "Man sollte die Sache nicht dramatisieren", sagte er. "Roboter werden nicht die Welt übernehmen."

Ist bestimmt alles nur Zufall...und spekulativ von mir.

Ich glaube ich habe auch irgendwo gehört und gelesen dass Trump was gegen die Wissenschaft hat und Südkorea wohl gesinnt ist..

[rexgullx]

Passend zum Thema...

Dokumentation: Killer-Roboter - Dürfen Maschinen töten?

3sat, Heute, 20:15-21:00

[pauli8]

Danke rexgullx für deinen Hinweis.

Wenn man 44 Minuten Zeit übrig hat, kann man sich die Doku schon jetzt und bis 25.09.2018 in der Mediathek ansehen...egal ob man TV mag oder nicht.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[Kneter33]

Wann stehen wir endlich Alle mal auf und sagen es reicht?
Wir haben genug Waffen um die gesamte Erde 30 oder mehr mal ins Nirwana zu bomben und wir hauen 10x mehr Mittel ums uns zu vernichten als um uns am Leben zu erhalten?
Ich mag nen Irrer sein aber ich versteh es nicht.

[pauli8]

Du bist kein Irrer, Kneter.

[nolte]

Zu der ganzen Sache fällt mir grade "Die Falle des Gargancjan" von Großmeister S.Lem ein. In dieser Geschichte werden die Hirne(KIs) der Kriegsandroiden miteinander gekoppelt. Das Ergebnis:

" …die Geister beider Heere hatten eine kosmische Dimension erreicht! Obschon also von außen der Stahl, die Panzer, Kartätschen und tödlichen Stichwaffen glänzten, wogte innen ein doppelter Ozean abgeklärter Heiterkeit, allumfassenden Wohlwollens und vollkommener Vernunft …Sie faßten einander unter und gingen spazieren, Blumen pflückend unter den dahineilenden Wolken auf dem Felde der nicht stattgehabten Schlacht."

[Kneter33]

pauli Du bist auch son alter Sack wie ich.
Wir wissen es irgendwie ein bisl besser weil wir vieles Live erlebt haben.
Wer braucht solche Technologie wie im Thread oben?
Die Summen an Geld die da rein gesteckt werden übertreffen alle Staatsausgaben Afrikas inzwischen.
Das ist doch nicht mehr normal.
Ich helfe hier ner alten Oma die genug erlebt hat um einen das Grauen nahen zu bringen und die hat nicht genug Geld um sich zu versorgen?

[FastBack67]

Eine Maschine die mit Zahlen arbeitet wird stets die richtige Lösung für alle Fragen haben, und weil es sich hier um KI handelt könnt ich mir vorstellen das die KI den Mensch aus dem Weg räumen wird, den nichts ist gefährlicher, dümmer, und zerstörerischer als ein Mensch.

Zahlen lügen nie, ergo wird eine KI das 100 prozentige Optimum erreichen wollen und das geht mit der Spezies "Mensch" nicht.

Die Ironie an der Sache ist, der Mensch baut seinen Schlächter selber, und wundert sich dann warum er ausgerottet wird. Habt ihr schon mal eine Maus gesehen die eine Mausefalle baut? Der Mensch im allgemeinem lernt nicht aus Fehlern solange sie nicht wehtun, doch wenn es weh tut, ist es meist schon zu spät.

Sehr interessanter Artikel, danke fürs teilen.
Irgendwie bizarr künstliche Intelligenz und "Waffen" zu vereinen, aber war vollkommen klar das solche Projekte enstehen, Fortschritt ist immer gut solange der Mensch dahinter die Oberhand behält, doch bei einer künstlichen Intelligenz ist dies früher oder später nicht mehr gegeben. Interessant dazu [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] & [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Mit besten Grüßen und Wünschen
Euer Fastback67

[nachtmasse]

Eventuell, könnte diese Art der Forschung aber auch die Existenz unseres Vergänglichen, über die Zeit verlängern. Im humanistische Einklang natürlich. Nicht auf der Basis von Werkzeug, welche eine Herrschaft oder eine industrielle kapitalistische Ausbeutung im Sinn hat. Momentan siehts schlecht aus...

[Mokgor]

Ein Glas Wasser und die Dinger kriegen nen Kurzschluss, fertig.

[nolte]

Oder einen kräftigen EMP.

[Kneter33]

Ich hab damals als Teen die Grünen ausgelacht weil in dem Alter konnte ich nix anfangen mit deren Argumenten.
Heute beneide ich die wie Sie es geschafft haben tausende auf die Straße zu bewegen!
Irgendwann muss doch mal Finito sein mit dem Irrsinn.
Die USA machen uns das jetzt sogar noch vor und das ist voll Irre.
Veränderungen schafft man nicht per Vote im Inet sondern auf der Straße!
Wir sind zu bequem geworden.
Vor knapp 35 Jahren hat James Cameron die Utopie des Terminators erschaffen und nun sind wir dabei das Real zu machen?
Krank!

[Caplan]

Warts ab..
entweder gibts dann irgendwann den todesstern oder den ueberlebensstern..