Eine ranghohe Managerin bei OpenAI, Caitlin Kalinowski, hat nach nur wenigen Monaten das Unternehmen verlassen. Kalinowski, die Leiterin für Robotik und Hardware, gab ihren Rücktritt am Samstag bekannt und begründete diesen mit schwerwiegenden Bedenken hinsichtlich eines kürzlich geschlossenen Vertrages mit dem US-Verteidigungsministerium. Sie kritisierte insbesondere, dass OpenAI nicht ausreichend Zeit in die Überprüfung genommen habe, bevor es der Nutzung seiner KI-Modelle in den geheimen Cloud-Netzwerken des Ministeriums zugestimmt hatte. Ihr Austritt signalisiert interne Spannungen bei dem führenden KI-Entwickler bezüglich ethischer Richtlinien und der Anwendung ihrer fortschrittlichen Technologien.
Der umstrittene Deal zwischen OpenAI und dem Pentagon wurde Ende Februar öffentlich. Er folgte auf eine Anweisung des damaligen US-Präsidenten Donald Trump, Geschäfte mit OpenAIs Rivalen Anthropic einzustellen. Anthropic hatte zuvor Garantien gefordert, dass seine KI nicht für vollständig autonome Waffen oder zur Massenüberwachung in den USA eingesetzt wird – Bedingungen, denen das Verteidigungsministerium, von Trump oft als ‘Kriegsministerium’ bezeichnet, nicht zustimmen wollte. Dieser Hintergrund wirft Fragen über die Umstände auf, unter denen OpenAI den Auftrag angenommen hat, und die potenziellen Implikationen für die Entwicklung und Nutzung von KI im militärischen Kontext.
Kalinowski, die erst 2024 von Meta Platforms zu OpenAI gewechselt war, wo sie die Hardware-Entwicklung für Erweiterte Realität leitete, äußerte auf X ihre klaren roten Linien. Sie betonte die wichtige Rolle von KI für die nationale Sicherheit, zog aber klare Grenzen bei der ‘Überwachung von Amerikanern ohne richterliche Aufsicht und tödliche Autonomie ohne menschliche Autorisierung’. Diese Aspekte hätten laut Kalinowski ‘mehr Überlegung verdient, als sie bekommen haben’. Sie kritisierte, dass der Deal verkündet wurde, ohne die notwendigen Sicherheitsleitplanken definiert zu haben, und bezeichnete dies als ‘ein Problem der Unternehmensführung’. Solche weitreichenden Entscheidungen dürften nicht überstürzt werden.
OpenAI hat die Kritik am Samstag umgehend zurückgewiesen und bekräftigt, dass seine ‘roten Linien’ den Einsatz der Technologie für inländische Überwachung oder autonome Waffen ausschließen würden. Die öffentliche Erklärung des Unternehmens versucht, Bedenken zu zerstreuen und die Einhaltung ethischer Standards zu betonen. Allerdings deutet der Text darauf hin, dass selbst OpenAI-Chef Sam Altman nicht uneingeschränktes Vertrauen in die Effektivität dieser ‘roten Linien’ zu haben scheint. Dies unterstreicht die anhaltende Debatte über die Governance und die ethische Verantwortung von KI-Unternehmen, insbesondere wenn es um Partnerschaften mit militärischen Einrichtungen geht, und lässt Raum für weitere Diskussionen über die Implementierung und Durchsetzung von Sicherheitsvorkehrungen in der rasant fortschreitenden KI-Landschaft.
