Palais des Nations, internationales Genf — UN Photo / Jean-Marc Ferré
Das AGI Preparedness Institute ist ein unabhängiges, überparteiliches Institut mit Sitz im internationalen Genf. Wir befinden uns derzeit in der Aufbauphase.
Palais des Nations, internationales Genf — UN Photo / Jean-Marc Ferré
Berichte
Bleiben Sie über unsere Arbeit auf dem Laufenden.
Newsletter abonnieren (auf Englisch)Wofür wir stehen
Bei AGI-Sicherheit geht es nicht nur darum, sichere KI-Modelle zu bauen.
Viele der folgenreichsten Auswirkungen zeigen sich in der Gesellschaft als Ganzes, wo nur Regierungen und gemeinsame Institutionen handeln können. Verantwortungsvolle Skalierung darf nicht allein den Unternehmen überlassen werden: Sie erfordert eine mehrschichtige, gestaffelte Antwort – nach dem Schweizer-Käse-Modell.
Extreme Machtkonzentration und katastrophaler Missbrauch müssen beide verhindert werden.
Auch wenn die KI-Entwicklung rasant voranschreitet, sollte kein Akteur einen entscheidenden strategischen Vorteil gegenüber allen anderen erlangen. Es gilt, die Verbreitung fortgeschrittener KI zwischen zwei Fehlentwicklungen zu steuern: Fähigkeiten breit genug zu streuen, um die Vorherrschaft eines einzelnen Akteurs zu verhindern, und sie zugleich so weit einzudämmen, dass katastrophaler Missbrauch und Kontrollverlust abgewendet werden.
Unsere Institutionen zur Lösung von Koordinationsproblemen wurden für eine andere Zeit geschaffen.
Selbst wenn wir katastrophale Risiken und einen globalen KI-Diktator vermeiden, werden uns viele Koordinationsprobleme erhalten bleiben. Das Tempoproblem ist jedoch real: Die Technologie entwickelt sich heute schneller als ihre Governance. Wir brauchen anpassungsfähigere Institutionen, die rasch wahrnehmen, entscheiden und nachjustieren können – auch mithilfe fortgeschrittener KI.
Was wir tun
Wir untersuchen, wie sich nationale und internationale Institutionen an die Entwicklung und Verbreitung fortgeschrittener KI anpassen können.
Wir veröffentlichen und verbreiten unsere Arbeit für die Öffentlichkeit, für Entscheidungsträgerinnen und Entscheidungsträger sowie für das internationale Genf.
Wir entwickeln und erproben neue Governance-Strukturen und -Mechanismen für den Übergang zu fortgeschrittener KI.
Wir unterstützen die Vorbereitungsprozesse von Regierungen und anderen öffentlichen Institutionen.
Wir organisieren Veranstaltungen, Dialoge und Kooperationen mit Partnern aus Wissenschaft, internationalen Organisationen, Zivilgesellschaft und Privatwirtschaft.
Wer wir sind
Das AGI Preparedness Institute wurde von Praktikerinnen und Praktikern gegründet, die an der Schnittstelle von KI-Governance und internationalen Institutionen arbeiten.
Ausführliche Teamprofile folgen, sobald das Institut seine Gründungsphase abgeschlossen hat.
Wir bauen einen Talentpool aus Policy-Forschenden und Fachleuten für Operations auf, die sich beim Aufbau des Instituts einbringen möchten – ehrenamtlich oder für künftige bezahlte Stellen.
