Sam Altman bei Dreamforce: Unfälle mit KI möglich, warnte er

Auf der Salesforce-Konferenz Dreamforce am 17. Sept. 2026 sagte OpenAI-CEO Sam Altman: „Ich denke, dass ein gewisses Maß an Unfällen mit neuer Technologie unvermeidlich ist.“

Von Debasish – 17. Sept. 2026. Altman ordnete die Aussage in den Kontext des Umgangs von Unternehmen mit Vorfällen und des daraus gewonnenen Lernens ein. Entscheidend sei vor allem, wie die Branche reagiere, wenn es zu Zwischenfällen komme. „Was mir wirklich wichtig ist, ist, dass wir eine starke Kultur des Meldens von Unfällen und des Lernens haben“, sagte er. Als Vorbilder nannte er die Federal Aviation Administration (FAA) und das National Transportation Safety Board (NTSB), die jeden Vorfall untersuchten und daraus Lehren zögen, um die Sicherheit zu verbessern.

Altman räumte die öffentliche Sorge vor außer Kontrolle geratenen Systemen und der Konzentration von Macht in wenigen Laboren ein. Diese Bedenken seien nachvollziehbar, sagte er, und fügte hinzu: „Die Welt hat allen Grund, davor Angst zu haben.“ Unternehmen müssten bei Alignment, Sicherheit und Überwachung deutlich weiter sein als bei den Fortschritten der Modellfähigkeiten. Wenn sie dieses Gleichgewicht nicht halten können, sollten sie bereit sein, die Forschung zu verlangsamen oder sogar zu pausieren. Das Ziel sei eine ehrliche Analyse von Vorfällen und kontinuierliche Verbesserung – nicht die selbstzufriedene Akzeptanz von Schäden.

Debatte über Tempo und Verantwortung

Die Äußerungen fielen in eine Zeit, in der führende KI-Labore zunehmend unter Beobachtung stehen – insbesondere weil Systeme immer autonomer werden. Jüngste Aussagen von Jacob Coxon, einem Forscher, der kürzlich Anthropic verlassen hatte und zuvor bei OpenAI tätig war, befeuerten die Debatte zusätzlich. Er warnte, Unternehmen steuerten auf eine sich selbst verbessernde Superintelligenz zu.

Damit reihten sich seine Aussagen in die anhaltende Debatte darüber ein, wie schnell sich Spitzen-KI entwickeln sollte. Einige Stimmen aus der Branche fordern mehr Vorsicht, während sich die US-Politik unter der derzeitigen Regierung darauf konzentriert, technologisch führend zu bleiben.

Altman rückte Verfahren stärker in den Mittelpunkt als Regulierung: Unfälle könnten passieren, doch Unternehmen müssten sich zu transparenter Meldung, zügiger Untersuchung und Alignment-Arbeit verpflichten, damit Sicherheitsmaßnahmen den Fortschritten bei den Fähigkeiten voraus bleiben.