'Dringendes Handeln' erforderlich
Google-DeepMind-CEO Demis Hassabis — Nobelpreisträger und eine der einflussreichsten Persönlichkeiten der künstlichen Intelligenz — hat die Schaffung einer US-geführten Normenorganisation gefordert, die KI-Modelle auf nationale Sicherheitsrisiken testet, bevor sie an die Öffentlichkeit gelangen.
In einem am Dienstag, dem 14. Juli, auf X veröffentlichten Artikel sagte Hassabis, es sei "dringendes Handeln" erforderlich, um Risiken im Zusammenhang mit künstlicher allgemeiner Intelligenz zu bewältigen. "Wir haben bereits die Herausforderungen gesehen, die Grenzmodelle für die Cybersicherheit darstellen, und andere Bedrohungen, darunter nukleare und biologische Risiken, könnten bald auftauchen, wenn die Fähigkeiten weiter voranschreiten", schrieb er.
Nach dem Vorbild der FINRA
Die vorgeschlagene "Frontier-KI-Normenorganisation" soll als öffentlich-private Partnerschaft unter Aufsicht der US-Bundesregierung strukturiert werden, nach dem Vorbild der Financial Industry Regulatory Authority (FINRA).
Schlüsselelemente des Vorschlags:
- Freiwillig bis verpflichtend: Grenzlabore würden Modelle zunächst freiwillig bis zu 30 Tage vor der öffentlichen Veröffentlichung einreichen. Nach Erweis der "Wirksamkeit" würde die Einreichung für die Markteinführung in den USA verpflichtend. - Sicherheitstests: Die Organisation würde Modelle auf Fähigkeiten in den Bereichen Cyberangriffe, Entwicklung biologischer Waffen und Umgehung von Sicherheitsvorkehrungen prüfen. - Industriefinanzierung: Die Organisation bräuchte "erhebliche" Mittel, um erstklassige technische Talente anzuziehen.
Wachsender Konsens
Hassabis' Vorschlag folgt auf eine breitere Initiative von KI-Branchenführern für formelle Aufsicht. Quellen teilten CNBC mit, dass Hassabis zusammen mit Anthropic-CEO Dario Amodei bei einem G7-Treffen mit Tech-Führern und Staatschefs einschließlich Präsident Donald Trump eine US-geführte KI-Koallition gefordert hatte.
