Ki-militarisierung: google & openai-mitarbeiter rebellieren gegen pentagons pläne

Die Entwicklung der Künstlichen Intelligenz verschiehlt eine dunkle Seite. Mitarbeiter großer Technologiekonzerne wie Google und OpenAI wehren sich mit einer ungewöhnlichen Maßnahme gegen die zunehmende Militarisierung der Technologie.

Kritik am pentagon-einfluss: mitarbeiterbrief gegen waffen-ki

Fast 1.000 Beschäftigte beider Unternehmen haben sich in einem offenen Brief gegen die Pläne des US-Verteidigungsministeriums ausgesprochen, KI für militärische Zwecke einzusetzen. Der Brief kritisiert, dass das Pentagon versucht, die Unternehmen gegeneinander auszuspielen, um sie zu zwingen, Zugeständnisse zu machen, die sie sonst ablehnen würden.

Die Kontroverse entzündet sich an dem Deal, den das Pentagon mit Anthropic, einem KI-Unternehmen, abgeschlossen hat. Anthropic lehnte eine umfassende Freigabe seiner Technologie ab, insbesondere im Hinblick auf den Einsatz für Massenüberwachung und autonome Waffensysteme. Der Vertrag scheiterte daran, weil das Pentagon nicht bereit war, die von Anthropic geforderten Sicherheitsvorkehrungen zu akzeptieren.

Nun sind Google und OpenAI ins Visier geraten. Die Mitarbeiter befürchten, dass ihre Sprachmodelle, die ursprünglich für positive Anwendungen gedacht waren, nun für die Analyse von Ziele für Drohnen oder die Identifizierung von Verdächtigen in Überwachungssystemen missbraucht werden könnten. Studien zeigen bereits, dass KI in Kriegsspielen dazu neigt, aggressive Lösungen zu bevorzugen.

Die Situation erinnert an den internen Protest bei Google im Jahr 2018 gegen das Projekt Maven, bei dem künstliche Intelligenz zur Analyse von Drohnenbildern eingesetzt werden sollte. Damals führte der Druck der Mitarbeiter dazu, dass Google den Vertrag ablehnte und ethische Richtlinien für die KI-Entwicklung erstellte. Doch diese Prinzipien scheinen angesichts der aktuellen KI-Euphorie in Vergessenheit geraten zu sein.

Dario Amodei, CEO von Anthropic, wirft Sam Altman, dem CEO von OpenAI, vor, eine