Mehr als 1100 Fachleute aus der Technologiebranche haben eine Initiative gestartet, um die Einrichtung eines globalen Mechanismus zur Steuerung des Entwicklungstempos von KI zu fordern.

Die Diskussionen zur Sicherheit künstlicher Intelligenz wandern von Prinzipienbeschlüssen hin zu konkreten Themen bezüglich der Kontrolle des Entwicklungsrythmus. Laut einem Bericht von Reuters vom 29. Juli unterstützen mehr als 1100 Mitarbeiter führender Technologieunternehmen eine Initiative mit dem Namen „Pacing the Frontier“. Dabei wird die US-Regierung aufgefordert, internationale Zusammenarbeit zu fördern, um die technischen und regulatorischen Instrumente zu schaffen, die notwendig sind, um das Tempo der Entwicklung fortschrittlicher KI-Technologien zu steuern.

Die Teilnehmer stammen von Unternehmen wie Meta, Anthropic, OpenAI und Google. Zu den unterstützenden Organisationen gehören außerdem Guidelight AI Standards und Encode AI. Unter den Unterzeichnern sind Dario Amodei, der CEO von Anthropic, mehrere Mitbegründer des Unternehmens, Jakub Pachocki, der Leiter für KI-Forschung bei OpenAI, sowie Führungskräfte für KI-Forschung bei Meta.

Der Schwerpunkt der Initiative liegt nicht einfach darin, die Innovationen einzustellen, sondern vielmehr darin, überprüfbare Kontrollmechanismen für mögliche schnelle, rekursive Verbesserungen zu schaffen. Wenn Modelle die Entwicklung der nächsten Generation von Modellen erheblich beschleunigen können, könnte sich das Tempo der Branchenentwicklung von monatlich auf wöchentlich oder sogar täglich ändern. In diesem Fall wird es für traditionelle Gesetzgebungsverfahren, Audits sowie Unternehmensrisikokontrollen schwierig sein, rechtzeitig zu reagieren.

Eine effektive „Rhythmussteuerung“ erfordert robustere Instrumente als nur mündliche Verpflichtungen. Beispielsweise sollten für hochriskante Trainingsaufgaben branchenübergreifende Auslöseschwellwerte festgelegt werden, für Rechenknotencluster sowie die Gewichte wichtiger Modelle sollten Prüfprotokolle angelegt werden, bei Tests gefährlicher Fähigkeiten sollten einheitliche Standards angewandt werden – und im Falle eines Unfalls müssen überprüfbare Verfahren zur Aussetzung der Aktivitäten sowie zur Meldung eingeleitet werden. Nur wenn verschiedene Labore kompatible Standards verwenden, wird die internationale Zusammenarbeit nicht zu einer einseitigen Verlangsamung führen.

Die Initiative spiegelt auch die zunehmende Übereinstimmung in den führenden Laboren bezüglich der Risikobewertung wider. OpenAI gibt an, dass das Wachstum der KI in Zukunft so schnell sein könnte, dass eine aktive Kontrolle der Entwicklung der fortschrittlichen Modelle notwendig sein wird; Anthropic betont hingegen, dass entsprechende Werkzeuge im Voraus bereitgestellt werden sollten, damit die Gesellschaft Zeit hat, sich an mögliche schnelle Veränderungen anzupassen.

Für die Industrie führen Governance-Mechanismen nicht unbedingt zu einer Verringerung der Wettbewerbsfähigkeit. Einheitliche Bewertungskriterien für die Leistungsfähigkeit, transparente Berichterstattung über Unfälle sowie nachvollziehbare Sicherheitsversprechen können die Bedenken von Unternehmen und Kunden hinsichtlich der Nutzung von KI-Systemen mit hohen Befugnissen verringern. Die eigentliche Herausforderung besteht darin, zu verhindern, dass Standards von wenigen Unternehmen genutzt werden, um ihre Marktposition zu stärken, und gleichzeitig sicherzustellen, dass hochriskante Fähigkeiten nicht in regulatorischen Lücken verbreitet werden.

Quelle:Reuters